西汉武帝元鼎六年（前111），以冉駹部落之地置汶山郡，治汶江县（在今四川茂县北），辖广柔等五县。属益州。西汉宣帝地节三年（前67），撤销汶山郡，辖县改隶蜀郡。东汉安帝延光三年（124），复设汶山郡，仍辖广柔等县，不久废。刘备定蜀，再置汶山郡，晋移郡治汶山县，在今四川理番县废保县南，刘宋迁汶山郡治于都安县（今灌县城），梁武帝普通三年（522），属绳州。北周武帝保定四年（564），属汶州。隋文帝开皇三年（583）撤销汶山郡。
隋炀帝大业三年（607），罢州设郡，会州、翼州、覃州合并置汶山郡，治汶山县（四川茂县城区）。唐高祖武德元年（618）罢郡设州，汶山郡称会州。