1938年夏，新四军第一、第二支队开辟苏南根据地。皖南事变后，成立苏南区党委。包括第（山）和苏（州）常（熟）太仓地区。

1931年11月，中华苏维埃共和国在江西瑞金诞生。与此同时，中华苏维埃共和国中央革命军事委员会也宣告成立。为了加强对各革命根据地的地方部队和群众武装的统一领导与指挥，中革军委正式决定，自1932年起，在中国工农红军里建立军区一级的机构。中国工农红军长征胜利到达陕北后，日本军国主义就发动了大规模的全面侵华战争。这时，民族矛盾已上升为主要矛盾。为了国家和民族的根本利益，中国共产党人不计前嫌，积极地与国民党实行第二次合作。并主动将中国工农红军改编为“八路军”和“新四军”。随后，陆续在八路军和新四军辖区内设立了军区，以担负起组织各根据地军民共同抗日之大任。在华中地区,新四军于1938～1940年间，成立了江南、江北指挥部，在长江两岸广泛发动游击战争。随着战争的胜利发展，新四军先后建立了苏北、苏中、苏南、淮北、淮南、浙东、皖中、鄂豫皖等抗日民主根据地，以组织和推动广大南方地区的抗日战争。

经中共中央和华东局批准，1949年4月28日在长江以南建立中共苏南区委员会不久，由苏北军区领导机关分出部分人员于5月6日建立了苏南军区，管文蔚任司令员，陈丕显任政委，军区下辖松江、苏州、常州、镇江军分区，和华东警备第六、第七、第八旅，直到建国以后。