隋开皇十六年（公元596年）析龙冈县（今邢台县）南境置沙河县，以境内有沙河横流而得名

县境，春秋时先为邢国，邢灭属卫，后为晋国地。战国时期为赵国辖域。秦代为信都县域，属邯郸郡。两汉、三国（魏）、晋及北魏各代，均为襄国县（今邢台县）辖境。到隋代，于开皇九年襄国县改名龙冈县。十六年（公元596年）析龙冈县南境设沙河县。故城在沙河城东一公里，属邢州，大业三年（公元607年）更隶襄国郡。唐武德元年（公元618年），设温州，治沙河县，四年废温州改隶邢州。五代时，沙河县于后晋开运元年（公元944年）徙治今沙河城，仍属邢州。宋初属河北西路邢州，宣和元年（公元1119年）改属河北西路信德府（邢州升府）；入金后，于天会七年（公元1129年）复属河北西路邢州（信德府降为州）。元代，沙河县初隶真定路邢州，世相至元二年（公元1265年）改隶顺德路（中统三年称府）。明代，沙河县于弘治四年（公元1491年）迁治于今市区西之新城（原称小屯，徙治后改称），十八年即还治今市区，属京师顺德府。清代，沙河县属直隶省顺德府。　　 民国初属直隶省冀南道，三年（公元1913年）改属大名道，十七年（公元1928年）直隶于河北省，二十六年（公元1937年）春划归河北省十五督察区。1949年3月，沙河县又改属太行区一专区。同年8月1日沙河县即划归河北省邢台专区。　　

1949年10月1日中华人民共和国成立后，沙河县仍属邢台专区。1958年撤销邢台专区，沙河县划属邯郸专区；同年又撤销沙河县，并入邢台县。1960年撤销邯郸专区，沙河县境随邢台县归邯郸市辖。1961年5月4日复设邢台专区，邢台县（含沙河县境）即还隶；同年7月9日恢复沙河县建制，仍属邢台专区。1968年，沙河县人民政府由城关（亦称沙河城）迁驻褡链。1970年邢台专区改称邢台地区，继辖沙河县。1987年2月经国务院批准撤县设市。1993年7月,邢台地区与邢台市合并，改称邢台市管辖。 沙河市属之。