津浦路东联防部队伴随着路东根据地建立而诞生。1940年4月18日，津浦路东联防司令部成立，司令杨梅生，政委陈庆先。

路东联防部队共有4个正规独立团，独立第一团以第五支队第十五团三营为基础组成，团长漆德庆，政委朱云谦，该团活动于来安地区；独立第二团以第十五团一、二营为基础组成，团长刘树刚（后饶守坤），政委刘景胜，该团活动在天长、仪征、扬州地区（以上两个团仍属五支队指挥）；独立第三团以第五支队特务营为基础组成，团长由杨梅生兼任（后漆德庆、李世安、朱国华），政委阮贤榜，该团在盱眙、嘉山地区活动；独立第四团以江北指挥部特务营一个连为骨干，与天长县地方武装合并组成，副团长程启文（代团长，后罗占云），政委侯政（后王义勋），该团在天长、六合地区活动。联防司令部还组建了一个特务营。津浦路东各县成立军事科或县总队，领导一个独立营（亦称模范营或县总队）。在根据地边沿地区，普遍建立区中队、乡分队，组织了人民自卫军，区乡还组建了半脱产与不脱产的基干队——模范队、青年队（民兵）。这样，在路东根据地就形成了有主力部队、地方部队和自卫军（民兵）三结合的武装力量，共同担负保卫根据地的任务。

1940年8月，撤销了路东联防司令部，所属部队归江北指挥部直接指挥。皖南事变后，为适应形势的发展和武装斗争的需要，路东联防司令部于1941年春重建，独一团和独二团合编为第十五团，归建主力部队，联防司令部保留独三团和独四团，作为发展地方武装的骨干力量。为加强各县的地方武装，由独三团调两个连分别编入嘉山、盱眙独立营，独四团调一个连到来安独立营，联防司令部独立营调一个连编入淮宝独立团，并将高邮、天长、六合、盱眙独立营编成县独立团。8月，路东各县军事科统一改为县总队部。路东地方武装1941年发展很快，到年底达2．8万余人（包括独立团，区乡武装和民兵，其中脱产的4000人），有步枪1．17万余支，轻机枪20余挺。

1942年1月，路东联防司令部改称淮南苏皖边区军区。组建了独立第五团，团长黄仁庭，政委汪登科。经过精简整编，加强训练，路东地方部队战斗力逐步提高。