始建于清乾隆年间，原址在小尖山，后被毁，随着尖山新区的开发，政府出资在大尖山重建观音庙。乾隆皇帝六次下江南，有四次幸海宁，乾隆二年（1737）七月二十日，乾隆皇帝巡视浙江海塘后，至尖山观音庙祀神，在此御笔立碑，文曰：“……浙中名山，若普陀、若天竺，皆大士道场，灵应夙著。尖山之名，虽未显于古，而与灵鹫、落伽，远近相望，层岩嶻嶫，近接潮音，实为神明之宅”（节录乾隆《御制尖山观音庙》碑文）。