中国人民解放军第70军的前身是华北军区第14纵队。该纵队是由冀南军区所属部分武装力量发展而成的。

1938年4月，冀南军区成立，隶属八路军第129师。1940年6月，部队进行整编，辖新编第4、第7、第8、第9旅和若干军分区。1942年新编第4、第7、第8、第9旅机关先后并入第6、第3、第4军分区，所属团归各军分区领导。1943年10月，冀南军区直属八路军总部。1944年5月11日，冀南军区并入冀鲁豫军区。1945年10月冀南军区属晋冀鲁豫军区建制。

1948年5月，晋冀鲁豫军区根据中共中央军事委员会的指示，将冀南军区所属部队组成第14纵队，韦杰任司令员，石志本任副司令员，高厚良任参谋长，由原冀南军区独立第6、第7、第8团合编组成第41旅，由原冀南军区独立第4、第5、第9团合编组成第42旅，共1.3万余人，隶属于晋冀鲁豫军区建制。同月，晋察冀军区与晋冀鲁豫军区合并组成华北军区，第14纵队隶属于华北军区第1兵团建制。6月，参加安阳崇固战斗。7月，第14纵队归华北军区直辖，除原纵队领导人不变外，由甘渭汉任政治委员，甘思和任副政治委员兼政治部主任，8月至9月，参加新（镇）、淇（门）和牛市屯战斗，收复封丘、阳武两座县城，解放了延津、魏邱集等地区。10月，为配合郑州战役，参加奔袭黄河铁桥战斗，保卫了黄河铁桥，阻击了豫北国民党军南援郑州。同月，参加郇封、西小吴战斗，11月，参加解放获嘉、汲县、路庄作战。

1949年4月，遵照中央军委关于统一全军编制序列及部队番号的命令，华北军区第14纵队在河南新乡改称中国人民解放军第70军，直属华北军区领导。甘渭汉任政治委员，石志本任副军长，甘思和任副政治委员兼政治部主任，高厚良任参谋长。所辖第41旅改称第209师，曹玉清任师长，丁先国任政治委员；第42旅改称第210师，黄光霞任师长，张希才任政治委员。全军共1.1万余人。11月，第70军番号撤消，所辖210师调归第67军改称201师，第209师改编为华北军区独立第207师。12月，第207师机关编入华北军区特种兵司令部。

解放战争时期，第70军在地方党政领导和广大群众的支援下，在兄弟部队的协同和配合下，先后参加战役战斗多次，解放了豫北广大地区。