1954年设宁夏省蒙古自治区，自治区人民政府驻阿拉善旗巴彦浩特镇。辖磴口县和阿拉善旗（阿拉善自治区恢复原名）。同年9月，宁夏省蒙古自治区由宁夏省划归甘肃省，称为甘肃蒙古自治区。

1955年甘肃蒙古自治区改名巴彦浩特蒙族自治州。

1956年巴彦浩特蒙族自治州和额济纳自治旗划归内蒙古自治区后，合并改设为巴彦淖尔盟。阿拉善旗的巴彦浩特镇改设为巴彦浩特市，盟人民委员会驻巴彦浩特市。额济纳自治旗改设为额济纳旗（驻建国营）。巴彦淖尔盟辖1市、1县、2旗。

1958年巴彦淖尔盟盟公署由巴彦浩特市迁驻磴口县（三盛公镇）。原属乌兰察布盟的乌拉特中后联合旗（驻海流图镇）和乌拉特前旗（驻扒子补隆）及原属河套行政区的临河（驻解放镇）、五原（驻隆兴长）2县和杭锦后旗划归巴彦淖尔盟（原狼山县和陕坝镇撤销，并入杭锦后旗；安北县撤销，并入乌拉特前旗；达拉特后旗撤销，并入五原县）。撤销巴彦浩特市，并入阿拉善旗。巴彦淖尔盟辖磴口（驻三盛公镇）、临河（驻解放镇）、五原3县及阿拉善旗（驻巴彦浩特镇）、额济纳旗（驻赛汉桃来）、杭锦后旗（驻陕坝镇）、乌拉特中后联合旗（驻海流图镇）、乌拉特前旗（驻扒子补隆）等5旗。

1959年撤销磴口县，以原磴口县三盛公镇为中心设立巴彦高勒市，其余地区并入阿拉善旗和伊克昭盟的鄂托克旗。额济纳旗驻地由赛汉桃来迁达兰库布；乌拉特前旗由扒子补隆迁驻西山咀。巴彦淖尔盟辖1市、2县、5旗。

1960年将乌拉特前旗划归包头市领导。巴彦淖尔盟辖1市、2县、4旗。

1961年以原乌达镇设立乌达市，由巴彦淖尔盟领导。撤销阿拉善旗，设立阿拉善左旗（驻巴彦浩特）和阿拉善右旗（驻雅布赖）。巴彦淖尔盟辖2市、2县、5旗。

1963年原由包头市领导的乌拉特前旗（驻西山咀）划入巴彦淖尔盟。辖2市、2县、6旗。

1964年撤销巴彦高勒市，复设磴口县。磴口县驻地三盛公改名巴彦高勒镇。阿拉善右旗驻地由雅布赖迁上井子，上井子已改名为额肯呼都格。巴彦淖尔盟辖1市、3县、6旗。

1969年巴彦淖尔盟驻地由磴口县迁至临河县。将额济纳旗和阿拉善右旗划归甘肃省，阿拉善左旗划归宁夏回族自治区。巴彦淖尔盟辖1市、3县、3旗。

1970年由乌拉特中后联合旗西部地区分设潮格旗（驻潮格温都尔）。巴彦淖尔盟辖1市、3县、4旗。

1975年撤销乌达市，与海勃湾市合并设立乌海市。巴彦淖尔盟辖3县、4旗。