绍兴早在残唐五代时，就盛传浮船与撑杆之说，大善古塔就是两支撑杆之一。它位于城中心西营左侧旧大善禅寺内院。大善禅寺已不复存在而大善古塔仍巍然耸立在原处。

东汉时，会稽太守马臻鉴于绍兴水患的严重，于是率领百姓大兴水利，筑起了一条西起萧山东至曹娥长达一百多里的堤塘，并在沿塘修筑了几十个可以启闭的堰闸，以总纳会稽山36源之水和若耶溪72支流，形成一个周围358里的大湖，这就是名闻遐迩的鉴湖。从此绍兴才有了稽山之雄和鉴湖之秀，稽山镜水也就成了古越绍兴的代名词。

但是，由于历经战乱，加上沿湖的地主豪强拦湖为田，霸堰占闸，肆意破坏水利，而原建的闸也往往因年久失修，不能适应泄水排洪的需要，所以一遇反常的洪水潮汐，难免遭到侵袭，水患也难以根绝。这样，绍兴平原如浮在水上的一叶扁舟。据民间流传的说法，绍兴城内涨水至府山山顶正好和平水海拨相平，所以称为“平水”。绍兴地形南北狭长，酷似船型，于是就产生绍兴是一只浮船的说法。

南北朝的梁武帝萧衍，笃信佛教，在他的统治区内，遍建尼庵僧寺，故有唐人“南朝四百八十寺，多少楼台烟雨中”之句。建庵堂寺观，必然地要建佛门子弟藏骨之所的“浮图”。梁武帝天监三年（公元504年），据说有一番僧挂单在刚建的大善禅寺曾扬言：绍兴这只浮船必须有撑杆支定才不会漂浮。于是“船头”的撑杆就建造在大善禅寺的内院。这当然是百姓们的传说。但从原嵌在大善塔确始建于南梁天监三年，距今已达1491年了。

大善古塔塔身为六面七层，所谓七级浮图。高可40米。塔顶为圆柱形，上覆铁盖。盖重约五千斤。民间流传盖内曾藏有定风珠一颗，大如龙眼，所以自从大善塔建造起后，龙风（台风、飓风）不入绍兴城。当然这也只是一种传说。塔的外层，无论远眺近观，均具挺拔雄伟之貌，塔内每层都铺设楼板和楼梯，善男信女可循梯而上，向每层嵌在塔身上的佛像焚香顶礼。登上最高层，能鸟瞰绍兴古城的全景。因为大善塔建在平地，所以比另一支撑杆--=-塔山上的应天塔高10余米，塔身也特别宽阔。可惜大善塔的楼板和楼梯，毁于清代咸丰年间的那次兵燹，从此以后，大善古塔就无法攀登，寺僧用花窗格围墙把它围起来，人们也就可望而不可及了。

绍兴民间有副流传很广的对联，上联是“小江桥，桥洞圆，圆如镜，镜照五湖四海”；下联是“大善塔，塔顶尖，尖如笔，笔扫九州万国”。好事者伪托为明代徐渭所撰，其实这是绍兴人民热爱古塔的一种心态反映。由于大善古塔历代均有修葺，后来也多次遭台风袭击，所以又有“定风珠”被盗的说法。1957年，古塔进行过一次全面整修，塔顶的铁盖上留有积水，积水中竟有几尾鱼儿在游动，佛门信徒视作神灵。而据行家推测，可能是飞鸟的杰作，把鱼籽吐泻于铁盖而成此奇景。