西汉置。

汉高祖十一年（前196）七月，设临湖县（治今安徽无为县蜀山镇临壁村），属于九江郡。

汉高祖十一年（前196）十月庚午，九江郡改属刘长淮南国（改都寿春邑，今安徽寿县寿春镇）。临湖县属之。

文帝七年(前１７3年)，九江郡归汉。十二年，改属刘喜淮南国（仍治寿春邑）。十六年四月丙寅，改九江郡为刘安淮南国（仍都寿春邑。元狩元年(前１２2年)，淮南国除为九江郡（仍治寿春邑）。临湖县属之。

元狩二年七月壬子，临湖县改属庐江郡（治舒，今安徽庐江县陈埠乡城池村城池埂）。元封五年(前１０6年)四月，庐江郡改属扬州刺史部。

东汉临湖县扬州庐江郡。西晋因之。东晋乱后，废临湖县。