秦、汉时代，军中别部之统领官，也就是配合主力军作战的部队将领称别将。《史记·项羽本纪》：“诸别将皆属宋义，号为卿子冠军 。”《汉书·高帝纪上》：“五月，项羽拔襄城还。项梁尽召别将。” 颜师古注：“别将，谓小将别在他所者。”《三国志·魏志·明帝纪》：“征东大将军曹休又破其别将於寻阳。”魏中期以后，与主帅都督别道傅翼而行之将渐称别将。北周之别将，隶属总管，正六命。

唐代制度，军官中设有别将一职。《旧唐书·职官志》说：“左右亲士府统军各1人，掌率左右别将，侍卫陪从。”在各折冲府也设别将。又别将一般也用作偏将的代称。武德年问改称车骑将军为别将，又改称果毅将军。武则天时．废折冲府长史，改为 别将，其位次于果毅将军，其上、 中、下府分别为正七品下、从七 品上、从七品下。此时的别将不判府事，若无兵曹以上之官，则知折冲府事。别将又一般用作偏将之代称。