日本是烟台开埠14年后的1875年（清光绪元年）11月才来烟台设立领事馆的。

日本领事馆位于烟台山西领事路（现烟台山西路），占地25亩之多，3幢楼房，170多间，达2446平方米。其中领事馆楼采用近代建筑设计手法，以简单的几何体组合手法设计建造，为砖混结构。室内分配合理，有地下层。整个建筑受欧洲新建筑运动影响，以实用为主，体现“不是依靠装饰而是以形体自身之美为美”。外部完全没有装饰。强调建筑物的比例，墙面和窗子的关系，要求成为基本立方体的组合，完全区别于折衷主义建筑形式，是烟台最早的此类风格建筑。同时，外墙的陶片帖面也开当地新建筑风格的墙面处理的先河。

其领事馆内的公寓楼也采用同样的手法设计建造。

1987年该建筑被烟台市人民政府公布为市级文物保护单位