秦王政二十四年(前223年)灭楚，设阴陵县(治今安徽定远县靠山乡古城村)，属九江郡(治寿春，今安徽寿县城区)。王莽篡汉，改九江郡为延平郡，改阴陵县为阴陆属之。东汉恢复西汉旧名。阴陵县属九江郡。初平四年(193年)，袁术改九江郡为淮南郡，阴陵县属淮南郡。建安四年(199年)，曹操复为九江郡，阴陵县复属九江郡。三国魏黄初元年（220），废阴陵县。

魏咸熙二年(265年)十二月，西晋代魏，复阴陵县，属淮南郡(治寿春，今安徽寿县城区)。南朝梁普通五年（524）十月，将阴陵县并入定远县。