汉武帝元狩二年（前121），汉骠骑将军霍去兵击败匈奴，隔绝匈奴与羌人的联系。汉武帝元鼎五年（前112），匈奴联合先零、封养、牢姐等羌人部落共10万余人进攻令居、枹罕（今甘肃临夏市）。汉武帝元鼎六年（前111），汉武帝将军李息、郎中令徐自为领兵10万进击羌人。羌人战败，有些部落退迁到包括今刚察县在内的青海湖地区。汉宣帝神爵元年（前61年）3月，汉光禄大夫义渠安国诱杀先零羌首领30-40人，纵兵进攻羌人部落，被羌人部落联合击败。同年4月，汉后将军赵充国统兵进击羌人；6月，引军深入到青海湖附近，用安抚策招降羌人1万余归附，修筑湟峡（今西宁以东大峡、小峡）以西道路、桥梁70余处，能通至青海湖附近，政令可达青海湖环湖今刚察等地。汉置金城郡临羌县（今湟中通海乡）管理安顿羌人，进一步隔绝了羌人与匈奴之间的联系。