西汉设乘氏县，属济阴郡。在今山东巨野县西南五十七里乘氏故城。刘宋废。

北魏太和十二年（488年） 于今菏泽市区置乘氏县，仍属济阴郡。

大业末年废乘氏县。

唐武德四年（621年） 复置乘氏县，属曹州。

天宝元年（742年）改曹州为济阴郡，乾元元年（758年）复为曹州。乘氏县属之。

北宋崇宁元年（1102年）曹州升为兴仁府，乘氏县属之。

金天会8年（1130年）复为曹州，乘氏县仍属之。

金大定六年（1166年）废乘氏县入济阴县。