在清未的近代化运动中，军事改革是一个很重要的方面。清政府从19世纪末开始改造旧军编练新军，这就需要一大批掌握近代军事知识的军官。因此，创办新式的军事学堂就成为了军事改革的一项重要内容。随着新式军事学堂的创立，长沙的近代军事教育也开始起步了。

湖南最早的近代军事学堂是在戊戌维新时期创办的。1898年（光绪二十四年）初，湖南巡抚陈宝箴以政府拨款将省城求贤书院改为湖南武备学堂，聘请王者化、武振常等为教习，学员“即以营（旗）兵选用教之”。学堂学制和课程仿照天津和湖北武备学堂有关规制，演习新式武器装备，讲求舆算测量，并注重纪律教育。这是湖南实行近代军事教育的开始，到戊戌政变发生时，该学堂被迫停办。

1901年8月29日，清政府诏令停止武科科举考试。于是，新式军事学堂就成为了培养军队将佐的主要途径。湖南巡抚俞廉三根据清政府关于“函于各省会设立武备学堂，以培养将才，练成劲旅”的诏令，决定重新开设武备学堂。抚院委派留日归国学生、湖南试用道俞明颐为学堂总办（相当于校长），主持学堂一切事宜；聘请两江籍留日归国学生单启鹏、陶澍孝等任教习；学生由各州县选送年龄在18－22岁之间，身体健壮、文理清畅、家庭清白、素行端正的学生，经考试合格后入学。

经过一年多的筹划，新的武备学堂于1903年5月在长沙小吴门外大校场旁正式开学。第一期招收学生100名，教职员共有20名。学习期限为3年。学习内容包括内场和外场两部分：内场有汉文、日文、算学、伦理学、军制学、战术学、城垒学、地形学等22门；外场有体操、马术、剑术、步操、炮操、工程等6门。学堂实行分段教学制，即在学堂学习一年后，派赴部队实习半年，然后再返回学堂完成其他学业。

为适应大规模改造旧军和编练新军的需要，武备学堂又于1903年l1月在长沙附设将弁、兵目、陆军速成等3个学堂。将弁学会从绿营中挑选年富力强的千把总培训一年，作为改造旧军之用。兵目学堂从各营挑选目兵培训一年，作为新军的骨干。陆军速成学堂则从各营挑选目兵培训一年半，以充任新军初级军官。武备学堂及其3个附设的学堂为湖南新军培养了一批军事人才。

1904-1908年间，湖南新军两个标6个营的管带先后有16人17任，其中有4人是从湖南武备学堂或将弃学堂毕业的，其中下级军官则有更多的为湖南武备和将弁学堂出身。

清末和民国时期有很多著名湘籍军事将领毕业于武备学堂及其3个附设学堂，如程潜、周则范、萧昌炽、林修梅、蔡钜猷等是湖南武备学堂毕业生；田应诏、刘辅察等毕业于将弁学堂；林德轩、张辉瓒、鲁涤平、谭道源、陈渠珍等则毕业于兵目学堂。

1904年9月，清政府颁布《陆军学堂办法》，规定各省设立陆军小学堂。根据这一规定，湖南巡抚端方于1905年夏将武备学堂第一期学生提前结业，将武备学堂及其3个附设学堂停办，另在武备学堂原址上设立湖南陆军小学堂。