秦王政二十年(前225年)置取虑县，以旧邑名之。故址在今安徽灵璧县城东北高楼镇潼郡村内外。属泗水郡。汉高祖六年（前201）属沛郡。元狩六年(前１１7年)，改属临淮郡。东汉初，属东海郡。建武十五年（３9年)四月丁巳，取虑县改属临淮郡。永平十五年（７2年)，改属下邳郡。北魏为临潼郡治。梁大通元年（５２7年)五月为潼州和临潼郡治。东魏武定六年（５４8年)，为睢州和临潼郡治。北齐天保七年废县。