广东省立中山图书馆原是清代全国四大贡院之一——广东贡院的所在地，尚存的遗迹是图书馆西面一堵有几百年历史的老墙，当年科举会试的放榜就张贴在这堵朱墙上，所以这堵墙被读书人尊为“龙虎墙”。2005年10月19日，“龙虎墙”作为广州罕有的见证科举历史的“活化石”，新晋为广州市第四次文物普查第一批登记保护文物单位。

真正的龙虎墙仅是指中山图书馆西围墙约30米长的一段老墙。记者看见，龙虎墙右侧3米宽为土墙，在右下方有一块长方形石刻嵌入的痕迹，但石刻却没有了。据有关人士称，石刻上记载了龙虎墙的建筑年代及完工时间等；右上方的土墙则缺了一大块，墙体斑驳有很多凿痕。

据介绍，当时龙虎墙周边小巷的很多人家也都贴着这样的对联，“出入凤凰池上客，往来龙虎榜中人”或“一举名登龙虎榜，十年身到凤凰池”等。自1905年废科举后，试院失去了作用，但龙虎墙的街巷仍保存至今，为科举制度留下一点痕迹。