沛县置城，始于秦朝末年。《水经注》引东晋郭缘生《述征记》称：“沛城极大，四周堑通丰水”。据唐《元和郡县制》及宋《太平寰宇记》记述，唐朝元和年间的沛县城，即秦代的古沛城。因年代久远，城址湮灭，古沛城遗址史说互异，且宋朝以前的古沛城遗址至今尚无定论。 元朝沛城，明时沛人马津在其《沛县新城记》中记述：“泗水之东，沛故有城，元人筑之，湮没久矣。”清乾隆《沛县志》中亦有“旧泗水东岸，有元时城址，玉虚宫、琉璃井皆在其中”的记载。其遗址即今沛城以东，胡屯乡西部。

明、清两代沛县故城在城北一里许。据乾隆《沛县志》记载，明洪武元年至嘉靖二十年（1368-1541年），沛县治无城垣达173年之久。明洪武二年，知县费忠信将县治所在地从旧泗水东岸前往西岸，但未筑城。嘉靖二十一年，知县王治以旧泗水西岸县治所在地为中心，营建土城。这座土城周长约5里，城墙高2丈，护城河深2丈，河面宽3丈。城四方建置城门，东曰“永清”，西曰“恒休”，南曰“会源”，北曰“拱极”，后因水患坍毁。嘉靖二十五年，知县周泾遂就原城址建置砖城。清朝沛城，因屡遭水患和战乱，曾三次迁移。乾隆四十六年（1781年），因黄河决口，洪水淹没，县城迁往栖山，建砖城；咸丰元年，黄河于蟠龙集决口，洪水淹没栖山沛城，迁往微山湖东夏镇；咸丰十一年三月，捻军攻克夏镇，11月又迁至大桥寨（今沛城址）。