西晋置。

三国吴嘉禾五年(236年),析庐陵郡置南部都尉,隶扬州,治雩都(今江西于都）。.

晋太康三年(282年),罢庐陵南部都尉,置南康郡,仍治雩都。

东晋永和五年(349年),郡治从雩都迁至赣县(章、贡两水间,今赣州市章贡区)。

隋开皇九年(589年),改南康郡为虔州,隶洪州总管府。大业初复为南康郡。

唐初又改虔州，唐贞观元年(627年)分天下为十道,虔州隶江南道,