(1)隋开皇十六年(596)置绵上县，属西河郡。唐属沁州，宋太平兴国四年(979)割属大通监，宝元二年(1039)属威胜军，故治在今山西沁源县北。宋庆历六年(1046)徙治大觉寺地，即今绵上镇。金属沁州，元至元十年(1273)并入沁源县。

(2)1942年10月，我党以山西沁源北部地区设置绵上县，领导人民群众坚持抗日斗争，属太岳区管辖。县政府先后驻过绵上、东村、水峪等地。1945年日寇投降后并入沁源县。