遗址位于焦作市区东南2公里处，气势宏伟，是河南省人民政府公布的第一批文物保护单位。

据《郡国志》载：蔡父子蔡叔监殷食于河内、山阳。春秋时长信侯又居此。《史记》云：秦长信侯嫪毐(音laoai)于山阳之地居之。《后汉书》记载有：魏黄初元年，以河内山阳邑万户奉汉献帝为山阳公。从以上记载看，“山阳”之名，最少在战国时代应有。因此，山阳城很可能建城于商周时期，经过秦、西汉，到东汉晚期献帝被贬封“山阳公”而名声大震。

现存的山阳城古城大部分高出地面，清晰可见，其平面呈不规则长方形。北城墙长1850米，破坏稍重，东城墙长1350米，西城墙长1000米，东西城墙保存较好。汉山阳城故城，建筑壮观，虽历尽沧桑，但仍威然屹立，它是我国古代劳动人民聪明智慧的结晶，为研究汉代城市的政治、经济、文化及城市规模、布局等提供了难得的实物资料。