东晋成帝咸康元年（３３５年），前凉王张骏筑湟河城，置湟河郡，治今青海化隆县群科镇日兰古城，属凉州。东晋孝武帝太元元年（３７６年），前凉亡，湟河郡归前秦氏族政权。太元十年（３８５年），吕光在姑臧（今甘肃武威市）建后凉王国，湟河郡属后凉。东晋安帝隆安二年（３９８年），河西鲜卑秃发乌孤占领青海东部，建南凉王国，湟河郡属南凉。安帝义熙九年（４１３年），沮渠蒙逊的北凉占领湟河郡。义熙十一年（４１５年），鲜卑乞伏氏的西秦军队攻陷湟河郡。北周属鄯州。隋开皇三年（583）废。