位于北京宣武区东北部，东起煤市街，西至棕树二条。

培智胡同，因其相邻的胡同称培英胡同，所以取名培智胡同。

此胡同在清光绪年间刊印的《京师坊巷志稿》上记为“小马神庙，有六馆祠”。此六馆祠即马神庙，很小，只有一间房，所以称小马神庙。1965年全市整顿地名时，改今名。

胡同里有院落有不少都挂着保护院落的牌子。