太和十九年(495年)，在下蔡故城(安徽凤台县城关镇。)置下蔡郡、县，领下蔡、临淮、龙亢3个县及楼烦侨县，属南兖州(治涡阳城，今蒙城县香山乡姜楼刘寨村)。梁大通二年(530年)，改下蔡郡为汴郡，下蔡县为治所。东魏武定八年(550年)五月，北齐取代东魏，地入北齐。北齐复下蔡郡。北周末改治銍城(今濉溪县临涣镇)。北周大定元年(581年)二月，隋代北周，下蔡县入隋。开皇三年(583年)，废郡，下蔡县改属颍州。