汉武帝元狩一年(公元前121年)置枝阳县，有人认为“枝”指黄河支流，即大通河。《谷梁传》：“水北为阳”，其地在大通河北，今甘肃永登县苦水镇稍南，辖今苦水镇及西固区黄河以北地。汉光武帝建武十二年(36年)省金城郡，枝阳县属陇西郡。次年恢复金城郡，枝阳县还属。

魏，西晋因之。前凉、前秦、后凉、南凉、西秦、后秦、北凉时，枝阳县属广武郡。北魏太延五年(439年)，灭北凉，省并了原来的令居、永登、枝阳三县，置广武县，为广武郡治。