三国吴置。

吴太平二年（257），分会稽郡东部置临海郡，隶扬州，郡治在章安（浙江台州市椒江区章安街道）一作初治临海，寻徙章安。辖今浙江台州市，温州市，丽水市全部及闽北一部。属扬州。

刘宋太初元年（453）属会州。孝建元年（454）属东扬州。

大明三年（459）罢东扬州，以其地为王畿。临海郡属王畿。

八年，罢王畿，复立扬州，扬州还为东扬州。前废帝永光元年（465），省东扬州并扬州。临海郡属之。

南朝梁，陈临海郡时属扬州，东扬州。

隋开皇九年（589），灭南朝陈，废郡，并临海郡各县入临海县，属处州（十二年改称括州）。

唐武德五年（622）以临海郡地置台州。治临海镇（浙江临海市）。

开元二十一年（733）隶江南东道。天宝元年（742）复称临海郡。乾元元年（758）复称台州，隶浙江东道。此后反复改隶浙江东、西两道。