海宁图书馆诞生于清代光绪三十年（1904）旧历四月，是我国最早以“图书馆”命名的县市级公共图书馆，在我国县级图书馆史上具有重要意义。第一任馆长由海宁籍留日学生、后任北京大学教授的朱宗莱担任，朱宗莱在日本留学时，曾与鲁迅同学，由国学大师章太炎授文字学。

1987年，海宁撤县设市，县图书馆更名为市图书馆。1988年，现用馆舍海马路新馆落成，整体规模于全省为一时之冠。1992年，米谷画廊在市图书馆西侧落成并隶属于市图书馆管理。

目前，市图书馆有馆舍面积3229平方米，其中书库1292平方米，阅览面积521平方米，阅览席位218座。设有外借部、阅览部、信息技术部、采编辅导部、社交部、农村指导部（下设乡镇分馆）。服务窗口包括成人外借、少儿外借、报刊阅览、参考阅览、书香屋、电子阅览、报告厅等；定期开展灯谜会、紫微讲坛、服务宣传周、未成年人读书节等读者服务项目，得到广大读者的认可和欢迎。

据2009年数据，发放借书证21000余张，年图书流通44.6万人次、111.2万余册次。计有各类藏书54.8万余册，其中古籍图书3万余册，地方文献4360册，存世的海宁方志基本上收全，《峡川志》、《峡川续存》、《海昌观》等可谓罕见珍本。

服务领域不断延伸，拥有21个农村流动书库，年送书下乡16万余册；图书馆乡镇分馆将于2010年底逐步覆盖全市，已经开通盐官分馆、斜桥分馆、周王庙分馆、马桥分馆，构建城乡一体化的公共图书馆服务体系。

市图书馆立足信息资源前沿，挖掘海宁文化底蕴。配合有关单位编辑出版《当代峡石镇建设》、《海宁县县名志》、《中国书法章法经典图解·条幅分册》、《无限忠诚——纪念沈鸿诞辰一百周年》、《走向中国的海宁人》。相继编印了《海宁花灯诗词选》、《海宁艺文志补》、《海宁灾异志》、《乾隆与海宁陈家》、《海宁县传统特产》等等。2004年百周年本馆出版了海宁图书馆百年诞辰丛书《海宁图书馆百岁纪念》、《海宁图书馆藏书画》、《海宁藏书文化研究》、《海宁藏书家印鉴》；2008年出版了《米谷画册》，并积极筹备出版《馆藏碑拓》。定期内部出刊《水仙阁》，《网络文摘》；编辑《海宁市图书馆志》，编制《普通图书地方人士研究书目选》等补充海宁地方文献资料。

1982年、1989年曾被评为“浙江省图书馆工作先进集体”。1989年被省文化厅授予“文明图书馆”的称号。1990年相继被中共海宁市委、市人民政府命和中共嘉兴市委、嘉兴市人民政府命名为“文明单位”。1994年被文化部命名为第二届全国“文明图书馆”。1994被文化部为第一批县市级《全国一级图书馆》称号历次复评继续保持称号。2007年被授予“嘉兴市群众满意基层站所（办事窗口）”称号。近年来连续被评为市文体系统先进集体。