古为帝尧之都，禹贡冀州之域，春秋属晋，战国属韩。秦、汉为河东郡地。三国魏正始八年(247)置平阳郡。北魏孝昌中年置唐州，建义初为晋州。隋先后为平河郡、临汾郡、平阳郡。唐为晋州，宋、金为平阳府，元为晋宁路。明、清为平阳府，兼有绛州、霍州。民国属河东道。1936年红军由陕北渡黄河东征，曾在霍县、洪洞、临汾、襄汾、侯马一带发动群众，播下了革命火种。抗日战争时期，同蒲铁路以东各县，多为我根据地和游击区，属太岳区。1949年2月成立晋南区，归陕甘宁边区政府领导，同年9月1日，归属山西省。1950年1月成立临汾专区，1954年与运城专区合并为晋南专区。1971年以原临汾专区所辖范围成立临汾地区，1978年改名临汾行政公署。现辖：临汾市、侯马市、临汾县、襄汾县、曲沃县、翼城县、浮山县、安泽县、古县、洪洞县、霍县、汾西县、隰县、永和县、大宁县、吉县、乡宁县、蒲县等十八个市、县。

本区历史悠久，自古以来就有“尧都平阳”之说。西周初年成王封叔虞于唐后，直至春秋末期，晋国先后建都于翼城、曲沃、新田。十六国时期汉国刘渊建都平阳。金元之际，平阳又成为全国驰名的刻书中心。反映了本区古代的经济繁荣、文化发达。

2000年6月23日，经国务院批准：撤销临汾行政公署和县级临汾市，设立地级临汾市。