从他不久后的行动来看，当时的他正由于满怀着一种新的向往而心潮澎湃。
他投笔从戎是因为他觉得需要拿出实际行动，需要去冒险，需要去争取为国效力的机会。他选择东京作为开始学习的地方，是因为日本的首都是当时世界所公认的军事艺术中心。
更为吸引人的是在东京他最有可能去结识流落东洋的中国革命者。
1905年，蒋介石拿定主意东渡求学。这一年，日本仍在和沙俄争得不可开交，他的亲朋好友们都费尽心机劝他放弃这个傻念头。可他是个既已拿定主意就不轻易改变的人。他一声不响，不与他们争辩，而是操起一把剪刀“咔嚓”一下剪掉自己脑后的辫子，他认为这会让那些成天围着他团团转而纠缠不休的人大吃一惊。正如他猜想的那样，他这一招还真灵了。
在当时，任何青年只要剪了辫子，就会被别人拒之门外。
他只有远走他乡，离自己的故乡越远越好。他母亲对孩子从不娇生惯养，自己也想得开，便筹措了一笔钱给他做旅费。
1905年5月，蒋介石乘船东渡日本，可是这首次东渡却有点虎头蛇尾。帝国军官学校没有革命者的落脚之地，拒绝接纳他们。这些学校和中国的军机处有个协议：中国来的学生只有属于由清政府推荐的才准予注册入学。尽管如此，对蒋介石来说这次东渡并没有白费，因为正是在那个时候他在东京结识了后来成为他革命的良师益友的陈其美——人们通常把他看作孙逸仙的最有才华的早期追随者。蒋介石眼看着不久将不得不回国，他就去学日语。
但他母亲觉得既然他在东京求学未能如愿，他就不应该还呆在那里，于是她假称家中有件不可推托的事——姐姐出嫁——以此为借口催他回家。到底是个孝子，他于当年冬天返回了家乡。
然而，1908年蒋家发生了一件更为重要的事。蒋介石的大儿子蒋经国出世了。这是毛福梅对蒋家的巨大奉献。刚开始她和蒋介石的生活并不顺心，婆婆既苛刻又罗嗦，老是要她唯唯诺诺，恭敬顺从，官方的传记作者们都称赞毛福梅落落大方的性格，但她本人却经常向自己的朋友流露，她其实是过着一种对自己丈夫粗野性格的恐惧以及对自己常遭到的毒打提心吊胆的生活。
蒋介石开始接受军事教育了，但却是在中国，而不是在日本。1906年，尽管有段日子他曾抱病在身，但他还是通过竞争激烈的考试，考入了保定军官学校。
浙江报考者有1000多人，只考中了60人，他是这60人中的一个。但是有两件事对他不利：他是汉人而非满族人；另外他留着短发，在革命前的中国；这可能就会被认为是对帝国传统的蔑视，招致叛逆的嫌疑——被认为是一种具有危险思想的人物。
学校里的教员大多是日本人。由于他们国家刚刚打败沙皇军队，取得了辉煌的胜利，早些时候还战胜了中国军队，所以他们一个个都显得趾高气扬，毫不掩饰对中国人的蔑视。
有一次上卫生课，日本教员拿出一个土块，将它比作中国，看到学生们一个个脸上都露出迷惑不解的神色，这个教员解释道：“中国有四亿人，而他手中的那个土块正好有四亿个微生物。”
看到这，蒋介石胸中陡然升起一股怒火，他不顾军纪走上前去，把那土块一下掰成差不多大小的八块，两眼怒视着教员问道：“日本有五千万人，是否也像五千万个微生物，寄生在这土块的八分之一中？”
教员被问得哑口无言，可不一会儿，他用手指着蒋介石剪去了辫子的头威胁他说道：“你是个革命分子！”据说蒋答道：
“先回答我说的对不对，请别把问题岔开，”
在军校，是不允许学员这么做的。对蒋介石来说，他是冒了很大的风险的。他可能因此而被军校赶出来；还有可能被秘密逮捕。
他被召到校长办公室，算他走运，校长觉得他这么干有他自己的理由，只严厉训斥了他一顿，并不深究，这件事就这么了结了。
这年年终，有一批人数有限的学生被选送到日本去学习军事，蒋介石是其中之一。他懂得日本语，在选拨中派上了用场。
1907年春，他注册进入东京振武学堂。
在这段时间，他的同学们觉得他对人虽然彬彬有礼，但很冷淡，他对同学间的友谊并不大在意，常常对别人的友好表示无动于衷，这使他不大受人欢迎，他的同学们认为他傲慢。不过他对一个人是例外的，那就是张群——他是蒋介石当时的同学，并赢得了蒋介石的终生信赖。除了蒋夫人和蒋经国外，张群要算蒋介石最亲密的知己了。
当时的学习生活比他所能想象的还要艰苦，甚至超过他在母亲寡居时所受的困苦。一日三餐很简单：每顿一碗米饭，加上几小片鱼和一小盘萝卜，他强迫自己把分到的这点东西凑合着吃下，由此他渐渐养成了节俭的习惯并终生如此。
每到漫长的暑假，蒋介石总要千里迢迢赶回家去看望母亲（看妻子倒是次要的），不过每次他总要在上海停留去看望那里的革命者，并帮助他们征募人员和筹集资金。他这时尚未加入任何革命组织，尽管他的卫生课老师曾对他产生过模糊的怀疑。
后来在东京，陈其美介绍他参加了同盟会。蒋介石第一次参加同盟会的大会时，孙逸仙在会上发表了讲话。会后陈其美向孙逸仙引见了蒋介石。
关于这次后来被大书特书的“历史性”会晤，既无文字记载，又无影像有声资料。按照喜欢臆想的传记作者所说，这位热血青年给孙中山留下了极深刻的印象。孙中山对陈其美说：
“这个人将成为革命的中坚，我们的革命运动正需要这样的人。
现在回顾一下，这句话的后一部分比前一部分要说得恰当一些，除非孙逸仙是个轻率的人，否则他就不会对陈其美这么说，因为陈其美那时有理由认为，要是革命确实需要个中坚的话，那么这个角色定是非他陈其美莫属。
不管蒋介石在与孙逸仙的第一次会晤中是否给他留下了深刻印象，他俩的会晤倒确有其事。那时的蒋介石正是一个渴求找到领袖的热情青年。
而今他终于找到了领袖，这正值孙逸仙活动的高潮，也是革命最具有吸引力的时候，他感到欣喜若狂。
那时候，中国公民不需要履行任何手续就可以进入日本，不管他属于什么民族，也不管他的政治信仰如何，既不须护照也不必办登记。
然而要是清廷官方向日本指出有某个不良分子要去日本或已在那儿，日本方面就会禁止此人入境。如果已在日本，也会将其驱逐，以满足清廷的要求。
对孙逸仙，清廷正好向日本提出了这样的要求，这大概是在孙蒋会晤之后不久。毫无疑问，孙在日本已培植了一大批革命的迫随者。他过去是从上海被赶出来的，如今东京也呆不下去了，他就将革命总部移往香港。
当蒋介石还在军校学习时，孙逸仙在不到两年的时间内在华南各地就进行了不少于七次的革命尝试，但都失败了，他的许多追随者被杀了头，清朝的统治依然如故。
蒋介石每次总是主动提出要为革命出力，但每次都由于出于长远的考虑而被拒绝，孙逸仙说，他为革命为中华能作的最大贡献就是完成他的军事学业。
1909年。11月底，蒋介石从军校毕业了，下一步是上正规的军事大学，但在此之前军校学员得去体验一下最低级的军事人员的生活，看看自己能否受得住这种艰苦生活的考验。
1910年1月一个凛冽的早晨，蒋介石站到了驻扎在高田的野战炮兵第十九联队队长日奉大佐面前，“啪”一个立正，打了个敬礼，他俩的顶头上司是“大胡子将军”长冈外史，他统帅着日本陆军第十三师团，日奉大佐的联队就隶属于这个师团。
整个冬季，蒋介石每天天亮前三小时就起床，第一件事就是去喂自己的马，然后上早操，他整天都在户外，晚上日本士兵们通常要干奴仆般的苦活。
后来蒋介石对他在日本这几年的生活只字不提。这些活是规定死了的，非干不可，他几乎没有时间和自己的中国同学往来，但一旦和他们聊起来，他总要说些“上战场比这要苦得多，没有人不可忍耐之事，习惯成自然嘛”等等诸如此类的话。
很奇怪，蒋介石似乎并没给他的日本长官们留下什么印象。他们绝没想到他会干成什么大事。几年以后的1929年，这时的蒋介石已出名了。
长冈外史冥思苦想试图找到蒋成功的秘密，他写了篇文章回忆说：1927年在东京，他邀请蒋和日奉大佐一起喝茶。和往常一样，蒋穿戴得笔挺，“象个潇洒的影星”，谦恭有礼得有点儿过分，告别的时候，蒋献给长冈一个条幅，上书“不负师教”四个字。长冈外史认为正是忠心耿耿和知恩必报才是蒋介石成功的秘密。
当武昌起义的消息传到蒋介石耳中时，他便决定暂时放弃在日本的军事学业，马上回去参加革命。自那以后，尤其是参加杭州战斗以后，蒋介石的个人经历就开始同中国的现代史结合在一起了。
开始他并不引人注目，后来则成为一个举足轻重的人物。
国民党的史学家们都称蒋介石的部下为“敢死队”。在带领部下成功地攻打浙江巡抚衙门之前，他给母亲写了封信，信中恳切地希望母亲“恕儿不孝之罪”。