西汉高后元年（前187）置鲁国，封女婿张偃为鲁元王。前180年，诸吕伏诛，张偃废为侯，鲁国为鲁郡。鲁郡治鲁县（山东曲阜市），领鲁、卡、汶阳、蕃、驺、薛六县。景帝三年（前154年）还为鲁国，公元9年，王莽为鲁郡。东汉时为国时为郡，仍治鲁县，领县如故。三国魏因之。西晋统县七：鲁、汶阳、卞、驺、蕃、薛、公邱。刘宋移治驺县（邹城市峄山之阳），领驺、汶阳、鲁、阳平、新阳、卞六县。北魏还治鲁县，领鲁、汶阳、邹、阳平、新阳5县。北齐天保七年（556）废入任城郡。

隋大业二年（606年），兖州改为鲁郡，属徐州，统县十：瑕邱（今山东兖州市）、任城、驺、曲阜、泗水、平陆、龚邱、梁父、博城、嬴等县。武德四年（621）废。