秦始皇三十七年(公元前210年)东巡，在金陵停留期间，废弃前朝楚国金陵邑，设立秣陵、江乘等县，隶属会稽郡。楚汉之际，分割会稽郡设鄣郡，江乘县改隶鄣郡(汉武帝元封二年改名丹阳郡)。王莽新天凤元年(14年)更改郡县名称，江乘改名相武。刘玄更始元年(23年)恢复原名。汉季建安十六年(211年)，孙权自京口移治秣陵，翌年改秣陵为建业，撤江乘、湖熟、溧阳县，设置典农都尉，实行屯田。

西晋太康元年(280年)恢复江乘县。西晋末叶，洛京丧乱，衣冠南渡。东晋元帝在江乘县侨置南东海、南琅琊、南东平、南兰陵四郡。南琅琊郡寄治在江乘县的金城。金城为三国东吴修筑。《三国志·吴书·孙和传》中记载：宝鼎二年(267年)十二月，“皓于金城外露宿。”到晋成帝咸康元年(335年)，桓温任南琅琊郡内史，出镇江乘县金城，请求割丹阳郡江乘县境以立郡。不久，南琅琊郡正式在江乘县划土立定，江乘县改隶南琅琊郡。咸康七年(341年)，割江乘县西境设立临沂县。南朝齐永明六年(488年)，武帝以为江乘县白下垒（位于今中央门外北崮山）依带江山，将南琅琊郡治从金城迁至白下垒，名白下城。陈太建十年(578年)废除南琅琊郡，置建兴郡，江乘县改隶建兴郡。隋开皇九年(589年)陈朝覆亡，江乘县被废置，从此以后不再恢复。

江乘县故址在今南京市仙林大学城。