隋初，约583年置牂州，治飞练（今贵州瓮安县银盏乡大房村），大业三年（607年）废牂州，置牂柯郡，治牂柯县（今贵州省黄平县西北）。辖境相当于今贵州金沙、平坝、紫云以东，余庆、施秉、岑巩以南、三穗、榕江以西地区及道真、正安、遵义市一带。隋末，牂柯蛮头领谢龙羽聚兵数万，割据其地。唐武德三年（620年）谢龙羽内附，以其地置牂州，授龙羽牂州刺史，封“夜郎郡公”。高宗永徽中废牂州。此后成为黔州所领诸羁縻州地。