商周时为黎国，战国时韩置上党郡，其后入赵。秦、汉、北魏、隋俱为上党郡。北魏兼置高都郡，隋兼置长平郡。唐、五代俱为潞州、泽州，宋为隆德府、泽州。金、元俱为潞州、泽州。明为潞安府、泽州，清为潞安府、泽州府。民国属冀宁道。抗日战争时期为我太行、太岳根据地。1949年10月设置长治专区，1959年改名晋东南专区，1971年改名晋东南地区，1978年改名晋东南行政公署。辖长治、潞城、高平、晋城、阳城、沁水、长子，屯留、沁源、沁县、武乡、襄垣、黎城、平顺、壶关、陵川等十六县。行署领导机关驻长治市。

1985年4月30日，国务院批准（国函[1985]62号）（1）撤销晋东南地区，实行市管县体制。（2）晋城市升为地级市，并设立城区、郊区。将原晋东南地区的沁水、阳城、高平、陵川4县划归晋城市管辖。（3）将原晋东南地区的襄垣、屯留、平顺、黎城、壶关、长子、武乡、沁县、沁源9县划归长治市管辖。