一，东晋侨置。

咸康四年（３３8年)，晋侨置小黄县（安徽亳州市区），属陈留侨郡。隆安三年（３９9年)，后秦废。北魏复置，为陈留侨郡治所。后为实县，隋开皇三年（５８3年)，撤销陈留郡，为亳州治所。大业三年（６０7年)四月改小黄县为谯县。

二，南朝宋侨置。

南朝宋泰始七年（471年 ），置小黄侨县（今安徽寿县板桥镇附近），属侨置陈留郡。

北魏永平元年（５０8年)入北魏废。

北魏熙平元年（５１6年)，今县境入梁复小黄侨县。仍属侨置陈留郡。

东魏武定六年（５４8年)八月入东魏，小黄改名黄城属谯州（治涡阳，今蒙城县城关镇北）下蔡郡（治黄城）。北齐因之。

陈太建五年（５７3年)，伐北齐。十月乙巳，黄城又叫小黄县。还属侨置陈留郡。北周因之。

隋开皇三年（５８3年)，废郡、并县，废小黄侨县。

隋末复置。唐武德七年（６２４年）撤销，并入安丰县。