父蒋肇聪继承祖业经营盐铺，1895年病殁。由母亲王采玉抚养成人，幼年入塾，诵读经史。1903年入奉化凤麓学堂，两年后至宁波箭金学堂就读。1906年初肄业于龙津中学堂，4月东渡日本，入东京清华学校，结识陈其美等人，受到反清思想的影响。年末回国，1907年考入保定全国陆军速成学堂，习炮兵。1908年春赴日，入东京振武学校，1910年冬毕业后，入日本陆军第十三师团第十九联队为士官候补生。投身民主革命获得孙中山的器重，辛亥革命爆发后，蒋介石回上海，受陈其美指派，率先锋队百余人至杭州，参加光复浙江之役；嗣后在沪军都督陈其美部任沪军第五团团长，与陈其美、沪军第二师师长黄郛结拜为“盟兄弟”。

1912年1月，受陈其美派遣，收买歹徒暗杀光复会领袖陶成章。案发后避往日本，曾办《军声》杂志。1913年夏二次革命起，在上海参加攻打江南制造局，事败后隐居上海，10月加入筹建中的中华革命党，11月再渡日本。1914年7月，孙中山在东京宣告中华革命党正式成立，蒋介石被派往上海、哈尔滨协助陈其美从事反对袁世凯的革命活动。1916年5月陈其美被刺后，蒋介石奉孙中山命去山东潍县任中华革命军东北军参谋长。不久袁世凯死，中华革命军解散，蒋居上海，与青帮头目黄金荣、杜月笙等人有往来。

1917年7月孙中山南下“护法”建立中华民国军政府，1918年3月蒋介石任粤军总司令部作战科主任，半年后任粤军第二支队司令驻闽。因受粤军将领排挤，常离职滞居上海，曾与张静江、陈果夫、戴季陶等合伙做交易所投机生意。

1922年6月粤军总司令陈炯明叛变，孙中山避难于永丰舰，蒋去广州登舰侍护40余日，取得孙的信任和器重。蒋做《孙大总统蒙难记》一书，同年10月被孙中山派任东路讨贼军第二军参谋长，1923年2月被任命为大元帅府大本营参谋长。8月奉派率领“孙逸仙博士代表团”赴苏考察学习军事、政治和党

1924年1月国民党第一次全国代表大会决定建立陆军军官学校，训练革命军队，孙中山任命蒋介石为军校校长兼粤军总司令部参谋长。他对孙中山联俄、联共、扶助农工三大政策虽有所不满，但在当时形势下表示拥护，并在一定程度上加以执行。他在军校重用亲信，培植个人势力，支持反共分子成立孙文主义学会，抑制和打击青年军人联合会。

他组织和领导黄埔军校师生参加1924年10月镇压广州商团叛乱、1925年2月东征讨伐陈炯明、6月平定杨希闵、刘震寰叛乱等战役，战果卓著，因此获得声誉，先任潮汕善后督办，继兼广州卫戍司令。

1925年8月黄埔军校两个教导团编为国民革命军第一军，蒋任军长。廖仲恺被害后，他支持汪精卫驱逐胡汉民出国，不久又将粤军总司令许崇智驱离广州，收编粤军部分师旅，一跃而成为国民党内握有军事实力的首要人物。10月率师第二次东征，全歼陈炯明叛军。

在1926年1月国民党第二届全国代表大会上，当选为中央执行委员、中央常务委员；2月兼任国民革命军总司令。

孙中山逝世后，蒋介石对三大政策日益怀疑，忌恨国民党左派和共产党员合作共事，疑惧苏联顾问的工作。他于1926年3月20日一手制造“中山舰事件”，5月又在国民党二届二中全会上提出“党务整理案” ，打击和排斥了在第一军和中央党部工作的共产党员。