清雍正二年（1724年）曹州升为直隶州，十三年（1735年）曹州直隶州又升为曹州府，以原州治所在地置菏泽县以为府治。

1913年菏泽县属岱南道（翌年更名济宁道）。1925年属曹濮道。1928年废道，直隶于省。

1936年属山东省第二行政督察区。

1946年1月28日于菏泽城区置菏泽市，直属冀鲁豫行政区， 冀鲁豫行政公署驻此，同年11月撤销。

1949年8月，菏泽县属新设的平原省菏泽专区。 同年3月原属菏泽县的菏泽城关区升为县级，直属于冀鲁豫行政区， 同年8月冀鲁豫行政区撤销，直属平原省菏泽专区，为专署驻地，至1953年8月改为菏泽城关镇，属菏泽县。1952年11月菏泽县随菏泽专区划归山东省。1958年12月菏泽专区撤销，改属济宁专区。1959年7月复置菏泽专区（1967年改称菏泽地区） ，菏泽县仍为专署驻地。1960年1月撤销菏泽县，设立菏泽市。1963年3月撤市复县。1983年8月撤销菏泽县，设立菏泽市。

2000年6月23日，撤销菏泽地区和县级菏泽市，设立地级菏泽市。菏泽市设立牡丹区，以原县级菏泽市的行政区域为牡丹区的行政区域。