咸和五年(330年)，东晋设钟离郡，治钟离县（今凤阳县临淮镇东故城))，属侨置的南兖州。义熙元年(405年)，钟离郡改属徐州(治燕县，故钟离城，侨置燕县取代故钟离县)。刘宋泰始七年(471年)，钟离郡属南兖州。元徽元年(473年)，属北徐州。梁太清三年(549年)正月，入东魏，改北徐州为楚州，钟离郡属之。东魏武定八年(550年)五月，地入北齐，改楚州为西楚州，钟离郡属西楚州。北齐武平四年九月壬申，入陈朝，改西楚州为北徐州 (仍治钟离)，钟离郡属北徐州。陈太建十一年(579年)，地入北周，复改北徐州为西楚州。宣政元年(578年)六月，改西楚州为豪州(均仍治钟离)，钟离郡先后属西楚州、豪州。隋开皇三年(583年)，废钟离郡。