朱温篡唐后，很多藩镇均不承认后梁，仍用唐年号。次年（908年）蜀王王建也称帝，建立了前蜀。当时有些割据势力表示归顺后梁，朱温遂晋封湖南马殷为楚王，两浙钱镠为吴越王，广东刘隐为大彭王，福建王审知为闽王。后幽州刘守光称帝，建立燕国。连同后梁，十个割据势力并存。

由于过去朱温与李克用有恩怨，所以自建国起，后梁与晋王李克用、李存勖持续战斗，直至亡国。后梁建立后发兵8万，打算收复被李克用占据的潞州，但围攻半年不下。次年初李克用死，李存勖继为晋王，亲率晋军为潞州解围，大获全胜。

梁太祖疑功臣，迫使镇州（今河北正定）王镕和定州（今属河北）王处直，于开平四年（910年）起兵反梁，并向晋王求援。乾化元年（911年）初，李存勖率晋军击梁军于柏乡（今属河北），经过一日激战后，梁军大败。晋军追击150余里，直至邢州（今河北邢台），又连克澶州（今河南濮阳）、新乡（今属河南）等地。梁太祖亦亲自率军前往洛阳设防。柏乡之战梁军主力受损，后梁处于劣势。

次年，梁太祖趁晋攻燕，晋、赵、定州，带病亲率军北上，号称50万大军。昼夜兼行，至下博（今河北深州），率军5万转攻蓨县（今景县）。其时晋军主力北攻幽州，南方空虚，晋在赵州（今河北赵县）的驻守军以小部队骚扰梁军，又派数百骑兵伪装梁军，趁夜袭了梁太祖营寨，外加被晋军释放的梁军士兵，归来后传言晋王李存勖亲率大军来攻，梁太祖惊惶失措，遂烧营夜遁。

后梁龙德三年（公元923年），“晋王”李存勖即帝位，国号“唐”，史称“后唐”，改元同光，李存勖即为后唐庄宗。以魏州为东京兴唐府，是为邺都。晋阳太原为西京。镇州为北都。旋复镇州，改太原为北都。以先唐遗臣豆卢革、卢程为相，郭崇韬、宦官张居翰为枢密使，冯道为翰林学士。