该师第一次出现在战斗中是在1940年低地国家和法国战役时，当时的名称是武装党卫队Verf-ngs集群师。它的第一个作战地域是在鹿特丹附近与荷兰军队交战，随后该师与其他师一起拦截了一支法国增援部队，将他们逐回了出发地域。下一阶段中该师主要负责德占区后方清剿工作（德军挺进过快，有许多敌军在自己身后，尚有抵抗力），然后参加了突破运河防线，直指巴黎的作战。整个战役结束时，该师已经到达西班牙边界。

最初该师由武装党卫队当时4个团中的3个组成，唯一的例外是LAH（阿道夫-希特勒近卫队）团，它未编入该师。3个团分别为：德国团、日耳曼尼亚团和元首团。西线战役结束后，武装党卫队日耳曼尼亚团被调出，与武装党卫队“北方”和“西方”团一起组成了另一个武装党卫队师“日耳曼尼亚”，后来又改名为武装党卫队师“维京”师。为弥补失去的日耳曼尼亚团，由一个武装党卫队骷髅分队改编而成的第11武装党卫队步兵团加入了该师。不久之后，该师更名为武装党卫队“德国”师，然后又变为武装党卫队“帝国”师。

法国战役后，该师参加了入侵英国的准备。随着“海狮计划”的取消，德军的兵力逐渐向东部转移。“帝国师”在1941年3月移防罗马尼亚，准备参加入侵南斯拉夫和希腊的作战。1941年4月，“帝国师”以令人难以置信的速度夺取了南斯拉夫首都贝尔格来德。（五十万意大利军队打了六个月，损失63,000人，寸土未得；德国人用了14天攻下了南斯拉夫和希腊，甚至德军还因为推进太快把意大利人面前的道路也堵塞了。）该师在结束巴尔干作战后移驻波兰，准备参加即将到来的“巴巴罗萨”计划。

“帝国师”作为中央集团军群的一部分参加了入侵俄国的作战，在叶尔尼亚和斯摩棱斯克战役中都表现的很不错。它也是目标直指莫斯科的“台风”作战的先头部队之一。1941年11月，“帝国师”到达莫斯科郊外，成了德军在俄国推进极限的见证人。但就在俄国首都在望的时候，恶劣的天气、巨大的人员和装备的损失以及一场声势浩大的苏军冬季攻势结束了该师继续推进的努力。伴随着一场场血腥的、伤亡极大的、逐步后撤的防御作战，该师战斗力渐渐耗尽。最后他们被撤出前线，送往法国以重新整编成一个装甲掷弹兵师。但该师的一部分留在了东线，被称为“奥斯腾多夫Ostendorf”战斗群，该部在前线一直战斗到1942年6月被送往法国与师主力会合为止。

1942年11月，该师的一部分参加了在土伦夺取法国舰队的尝试。不久之后，该师又更名为武装党卫队“帝国”装甲掷弹兵师。1943年早期，“帝国师”回到了东线，参加哈尔科夫会战，是拯救了濒于崩溃的战线的功臣之一。重夺哈尔科夫后，该师与其它兄弟部队一起准备参加库尔斯克会战。1943年7月，“帝国师”在库尔斯克突出部以南的推进十分成功，深入苏军战线达40英里，但最终仍未能达到合围苏军的既定目标。随着会战的中止，它与其它一些武装党卫队师团一起被调出前线。在一些小规模的战斗后，“帝国师”又一次被运往西方整编，这回成了武装党卫队“帝国”装甲师。在后方整编的同时，该师还在前线留下了一个战斗群，被称为“帝国”战斗群，尽管正式名称应该是“兰姆丁Lammerding战斗群”。该师在西方整编的同时还参加了在法国的反游击队作战。

1943年冬季到1944年初，另一场大规模苏军冬季攻势在战线中央包围了一些德军单位，“帝国”战斗群也是其中之一。但与斯大林格勒不同，保尔-豪塞尔（PaulHausser）（他也是“帝国师”首任师长）的武装党卫队第二装甲军替他们解了围。随后该战斗群被运往法国与师主力会合，在东线残存的一些部队组成了“魏丁格（Weidinger）”战斗群并且从Proskurow一路撤退到特诺普（Tarnopol）。

1944年6月诺曼底战役开始时，“帝国师”作为德军装甲部队的主力之一为将盟军赶下大海进行了不懈的努力。特别是在卡昂和圣洛周围的苦战使盟军前进受阻，但该师伤亡也很大。在成功地夺回蒙坦Mortain之后，该师开始后撤，因为迹象已经显示它和其它许多部队一起落入了被称为“法来兹口袋（FalisesPocket）的包围圈。多亏了该师和第9武装党卫队“霍亨施道芬”装甲师的共同努力，撑开了袋口，很大一部分德军才得以向东冲出包围圈。

在那之后，该师撤过塞纳河，然后又撤到“西墙”（即原来的齐格菲防线）之后。稍加休整后，第2武装党卫队“帝国”装甲师参加了1944年12月的阿登战役。突破美军防线后，该师向前猛攻，但就在肉眼能看见马斯河的地方，攻势被增援的美军制止住了。随着美军逐渐的反攻，又一步步地向后退却。经历这次失败之后，该师回到德国本土进行人员和装备的补充，随后参加了德军在二次大战中的最后一次攻势作战，目标是夺回布达佩斯，但在匈牙利的这次行动同样受挫于苏军强大的兵力。之后，该师先后在德累斯顿、布拉格、维也纳作战，一直到战争结束。该师大部分人员设法向西开进，直至向美军投降。