西汉置。

西汉高祖十一年（前196年）置阳泉县（（今安徽霍邱县城西北40公里的临水坡下有汉阳泉县遗址），属九江郡。

王莽篡汉，废六安国为安风郡，阳泉属之。

东汉初阳泉属扬州六安国（仍治六，今六安市西裴家滩）。

建武八年（３2年)闰月，封窦融为安丰侯，初食安丰（治今河南固始县东南）、蓼（治故蓼城，今固始县蓼城岗遗址）、阳泉、安风4个县，后仅食1个县。

十三年，撤销六安国，并入庐江郡，阳泉改属扬州庐江郡（改治皖县，今潜山县梅城镇）。

建初三年（７8年)，阳泉改属刘恭六安王国（仍都六安，今裴家滩）。和帝即位（８９年），国除，复属扬州庐江郡。

建安十九年，阳泉（今临水镇）为庐江郡治。

三国魏齐王曹芳（２４０～２５４年）间庐江郡改治六安，（今裴家滩）。阳泉县属庐江郡。

西晋咸熙二年（２６5年)阳泉县改名泉阳县（治今临水镇），仍属扬州庐江郡。东晋废。

南朝梁在泉阳县故地设决口县（治临水镇），大通三年（５２9年)，改决口县为临水县，均属安丰郡。

武定六年（５４8年)临水县县境入东魏，设汝阴县（治临水镇），属扬州淮南郡（均治寿春，今寿县城关镇）。

南朝陈太建五年（５７3年)五月，伐北齐，汝阴县境入陈，复为临水县（治今临水镇），属霍州（治岳安，今霍山县城关镇）边城郡（治边城，今河南固始县境）。

北周建德五年（５７6年)入北周，废临水县，以后就没有恢复了。