位于西城区东城南部，北起惜薪司胡同，南至后达里。明清两代为兔儿山，故名。此处原来有座兔儿山，又称小山子，小蓬莱，为明清时皇家御园。

据史书记载，明清时，帝王重九登高，或幸万岁山（景山），或幸兔儿山。兔儿山高五十丈，东西延缘而升，皆叠怪石，间植树木，山上有旋磨台，鉴戒亭、清虚殿、还有飞龙喷泉。萧洵著《故宫遗录》云：“兔儿山在沄台之西……俯瞰都城，历历可见。”既然登其山可以俯瞰都城，可见其山之高。在清康熙二十一年绘制的《皇城宫殿衙署图》，在西安门内标有兔儿山的位置，在《金鳌退食笔记》中，记载有兔儿山的景观。

清末年，在经营三海的过程中，由于对兔儿山的维护有所忽略，逐渐被荒废了。1911年后兔儿山的所在地，称图样山。1965将西土地庙、槐树胡同并入，统称图样山胡同。

目前该胡同仅仅剩下北面靠近惜薪司胡同的部分还在，南面的部分已在2011年3月前拆除了，仅剩下的北面部分也将在2011年底前拆除。又一条老北京的胡同连同此地的老北京人将在新北京中消失了。