该军前身是孙传芳的“五省联军”的第5方面军陈调元部。1926年陈调元率部投靠北伐军后，所部被改编为国民革命军第37军。1928年底，国民革命军进行编谴时，该军缩编为第46师。1932年，该师隶属“剿匪”第1路军，参加了对鄂豫皖苏区的第3次“围剿”作战，在苏家埠战役中大部被歼后，残部改编为第55师，该隶驻赣绥靖公署。

1937年7月，抗日战争全面爆发后，第55师归第69军建制。1938年4月，国民党军队为加强武汉地区的军事力量，以第55师与武汉警备旅为基干扩编的第185师，合编组建为国民革命军第九十四军，该军隶属第9战区。由武汉警备司令部郭忏兼任军长，柳际明任副军长，下辖：第55师，李松山任师长；第185师，方天任师长。该军组成后，即参加了武汉会战。

1939年初，第86军被裁减后，其所辖第121师改隶该军。此时，该军下辖：第55师、第121师、第185师。同年4月至12月，该军奉命先后参加了随枣会战、冬季攻势作战等。1940年1月，该军隶属第26集团军时，因在保卫宜昌作战中失利，军长郭忏被免职，李及兰任军长兼任宜巴区要塞守备司令，黄壮怀、牟庭芳任副军长。下辖：第55师、第121师、第185师编制不变。同年5月至1941年9月，该军参加了枣宜会战和第二次长沙会战。1942撵月，该军第185师改隶暂编第9军，另将暂编第9军暂编第35师改隶该军。同年10月，该军隶属长江上游江防军时，李及兰升任长江上游江防军副总司令，由牟庭芳接任军长，杨文瑔、胡练成任副军长。1943年，国民党军队进行局部编制调整时，该军第55师改隶第18军，另将第32军第5师改隶该军。此时，该军下辖：第5师，刘雪瀚任师长；第121师，戴之奇任师长；暂编第35师，劳冠英任师长。此次编制调整后，该军先后参加了鄂西会战、常德会战。1945捻月，国民党组建中国陆军各方面军时，该军隶属第3方面军。其暂遍第35师被裁减，另将第87军第43师改隶该军，李士林任师长。此时，该军下辖：第5师，李则芬任师长；第43师，李士林任师长；第121师，朱敬民任师长。同年4月后，该军参加了湘西会战和桂南战场的桂境追击作战。

1945年8月，该军由广西柳州机场空运到上海，接受上海、苏州地区日军投降。11月，该军由上海空运北平后，该军改隶北平行营。先后参加了进攻热河战役、张家口战役和易满战役等作战。1947年8月，军长牟庭芳被撤职，郑庭锋升任军长，朱敬民、林伟宏任副军长，王治熙任参谋长。此时，该军下辖：第5师，邱行湘任师长；第43师，留光天任师长；第121师，韩迪任师长。同年9至12月，该军参加了秋季战役、清风店战役和冬季战役等。在冬季战役中，该军第43师被东北野战军歼灭于公主屯地区。少将师长留光天、少将副师长程化龙、少将参谋长易希殷等被俘。此次作战后，该军在天津重新组建第43师，由王治熙任师长。1948年，该军隶属第4兵团，先后参加了冀热察战役、察绥战役平绥路东段作战、偷袭石家庄的作战行动等。同年10月，在平津战役中，该军军部率第5师、第121师由天津紧急调往北平，在增防和策应平绥线作战后，留在北平担任守备任务；第43师仍留置天津担任城防守备，另将第305师编入该军，协同第43师防守天津。

1949年1月，郑庭锋乘飞机逃往南京后，朱敬民接任军长。此时，该军下辖：第5师，杨培德任师长；第43师，饶启尧任师长；第121师，韩悌任师长。第305师，姚葛民任师长。在天津被解放军攻破后，第43师、第305师全部被歼，副军长林伟宏、师长饶启尧、姚葛民被俘。在北平和平解放时，留在北平的军部及第5师、第121师接受人民解放军的和平改编。