位于太原市文庙巷文庙内，成立于2003年10月10日，直属于山西省文物局。文庙建于清光绪8年（1882年），占地31000平方米，现中轴线基本保留了文庙原有建筑格局，自南而北依次为照壁、六角亭、棂星门、大成门、大成殿、东西两庑和崇圣祠，前后三进院， 1996年被公布为省级重点文物保护单位。

博物馆展区面积18000平方米。东、西21间及大成殿具备举办大型展览的条件。全年展览频繁，2004年共举办各类文物、书画、图片、模型等展览21个，特别是“傅山书法精品展暨日本著名书法家作品展”、“秦晋国画联展”、“大型航天航空模型展”、“李克仁草书展”等在省城太原引起极大关注和广泛好评。2005年春节期间，该馆举办了 “山西省传统工艺美术精品博览会暨大型民俗风情活动”，邀请民间匠师现场表演展示，为省城春节增添亮色。2007年完成基本陈列“千秋孔子展”。

馆内拥有2500平方米的文物库房，可据不同质地文物的不同需要，进行人工温、湿度监测，为收藏和保管各类文物提供了良好的保护环境。博物馆定编36人，内设办公室、保管部、陈列部、宣教部、开发部、保卫科等部门。1995年被山西省委、省政府公布为省级爱国主义教育基地。