在秦代以前，中国的武职将军名号只有大将军、前将军、后将军、左将军、右将军、偏将军、裨将军。汉文帝时始有车骑将军、卫将军，汉武帝为霍去病专设一重号将军——骠骑将军，位次大将军。自武帝征匈奴始，之后将军名号日益繁多，如骁骑、楼船、材官、伏波、贰师、度辽、龙骧等，或以所领部队（如骁骑、材官），或因奉行的任务（如李广利攻贰师城），甚至或因童谣（如龙骧），随立名目。而绝大多数则取威武之名，如寇军、扬威之类。

南北朝时，将军名号更加泛滥，名目繁多，南朝梁共有三百六十一（包知加封境外人士的一百二十五号）。

这期间将军称号也被划分成二类，即重号将军和杂号将军，重号将军职位高，轻易不封，杂号将军职位较低。两汉重号只有大将军、骠骑、车骑、卫、前、后、左、右、将军，三国开始增多大将军、骠骑、车骑、卫、四征将军、四镇将军、四安将军、四平将军，皆为重号将军。但亦有例外，如南朝宋四镇亦在杂号之列。杂号加大者亦为重号将军。