清光绪二十八年（1902年）冬，陕甘总督嵩蕃奏办甘肃武备学堂，他派候补道杨增新赴京津及东南诸省考察兴办学堂的经验，杨悉心考察，系统笔记学堂建设法、教授法、管理法，礼聘兼通中西各学教习数人，采购图书而归，于光绪三十年（1904年）八月成立，杨任总办。

学堂设于兰州通远门外原甘肃织呢局西厂(今兰州—中院内)。学堂分设东西两堂，东考文学，西讲武学，使肄业文武生童彼此观摩砥砺，以收文武并课的功效。学生分为数等，其中粗通中学、体质秀弱者，只可兼习算学、测绘的为一等。而体魄壮实，并兼习体操、兵家杂技的为一等。二十以上三十五岁以下者，中学精通可兼习西学的为一等。凡在籍武举生童年三十以下，身躯壮伟，技艺可观，犹可练习中西各种学问的一并考收。这种办法颇与各省不同。光绪三十二年（1906年）冬，改为甘肃陆军学堂。1912年正月改为甘肃陆军小学堂，次年停办。