前身是私立"弘达学院"小学部，始建于1930年9月1日，校址设在西城区大沙果胡同11号。第一任校长是院校董杨宪滨的夫人田纶女士。1952年9月24日，第二区人民政府成立，"弘达"等私立学校被首批接管。1953年1月该校小学部迁至兵马司胡同93号(原"北京小学旧址")，改为以地名命名的市立小学，即兵马司小学。
有中学班、小学班和幼儿班。师资力量强，教学质量高，在社会上很有影响。曾做为北京学生代表的中南海为全国第一届妇代会祝贺、献花，儿影《祖国的花朵》也曾以这个校园为外景地拍摄。著名京剧表演艺术家李光、知名画家齐秉生、著名播音员徐曼等人先后在校就读。
在深化教育管理体制改革、全面推进素质教育的今天，兵马司小学抓住机遇，发展自己，走科研之路，开始了以科研为先导、以"全面育人"为基础、以"大成美育"为特色，务本求实多角度、多层次、全方位地实施完美人格培养的教改试验。1993年9月，中央教科所、西城区教育局与兵马司小学共同确定"以大成美育理论为指导思想，促进学校工作的整体优化"的科研专题。并以此为办学目标制定学校三年规划。从此兵马司小学踏上了一个新的历史征程。