原定是许崇智，而蒋介石得到此位，又与被派往苏联考察有关。派团赴苏考察，并就苏联援助中国革命问题进行磋商，是由第三国际代表马林首先于一九一九年提出的，孙中山接受了这个建议，并答应派遣最好的代表团前往。最好的人选，无过于廖仲恺。廖不仅是孙中山身边的红人，而且是对联俄容共政策最表拥护的国民党人，然而正因为太红、太忙，不克领团前往。其次该是朱执信，是孙中山身边最精湛的革命理论家，同时也是最脚踏实地的行动家，无论在学识上或经历上，都远超过蒋介石，蒋本人也自承不讳的。但是朱却于一九二O年的九月二十一日，为调解虎门民军与降军纠纷而遇难。于是，蒋介石又成了孙中山选择中的廖化。即使如此，蒋还施加了以退为进以及毛遂自荐的压力。
一九二三年的三月一日，孙中山自沪抵粤后在广州成立大元帅府，此为孙氏在粤开府的梅开三度，任命蒋介石为大元帅府行营参谋长，即侍卫长，命其速来就任，但蒋照例姗姗来迟，于四月二十日才抵达广州，因为不称心，又于七月十二日“愤而辞职”，前往香港。然而当听到孙将派代表团赴苏，乃于七月十三日自港写信给大元帅秘书长杨庶堪，希望向孙提出自己的要求：
为今之计，舍允我赴欧外，则弟以为无一事是我中正所能办者……如不允我赴俄，则弟只有消极独善，以求自全。（蒋介石一九二三年七月十三日致杨庶堪书，见《总统蒋公思想言论总集》第三十六卷，页九十二)
不论是为了安抚蒋之情绪(此种情绪又多少含有瑞元无赖的性格)，还是一时无人可派，孙中山最后决定派蒋介石、王登云、沈定一以及共产党人张太雷，组成“孙逸仙代表团”，前往报聘，并于一九二三年八月十六日由上海启程赴俄，九月二日抵达莫斯科。
蒋介石一行在俄参观了军事学校和武器装备，还去拜会了红军之父托洛茨基(Leontrotsky)、苏联外交人民委员齐采林(Cinsky)等人。最主要的任务则是于九月九日会晤苏联革命军事委员会副主席施克亮斯基(E．M．Sklyansky)和参谋长甘门涅夫(L.B.Kamenev)。美国哈佛燕京图书馆主任吴文津从俄文资料中得知，蒋曾代表孙中山向苏方寻求推翻北洋政府的一个新战略协议。即突破广东革命根据地的地理上的孤立，把根据地转移到西北，以便苏方的军事支援。(详阅吴文载《蒋中正先生与现代中国学术讨论集》第二册，页三十八至五十三)其实孙致加拉罕(Leo Karaking,Soviet Policies in China，P.243)这种不切实际的要求当然不会得到苏俄的支持。
同年十一月二十九日循原路线回国。蒋介石于十二月十五日抵达上海，给孙中山寄了一份《游俄报告书》，却又迟不回粤。孙中山于十二月三十日电蒋有谓，“兄此行责任至重，望速来粤报告一切，并详筹中俄合作办法!”廖仲恺、汪精卫、胡汉民等也连发六电，催蒋南归，然而蒋仍在老家溪口住了两个多礼拜，直到一九二四年一月十六日才回到广州报命，并被委派为军官学校筹备委员长。
然而奇怪的是，不到一个月，蒋介石又不告而别，留书请辞。当我们见到蒋出走后写给孙中山与廖仲恺的信，就不再奇怪，原来还是因为不如意、以退为进，而这一次更加情见乎辞，甚至语带责备与要挟。他于一九二四年三月二日致孙长函中，一再提到陈炯明叛变时与孙“同生死、共患难”、“无难不从、无患不共”，借此抱怨孙对他的耿耿忠心，回报不够。他又借当年与陈其美的交情之深，以暗指孙对他信之不专、爱之不切!竟谓：“先生今日之于中正，其果深信乎？抑未深信乎？中正实不敢臆断!”再往下看，更知所谓“信不专、爱不切”，因孙中山仍然把他视为侍卫长看待，没让他“兼任他务”，也就是没让他管军事之外的党政大事(蒋致孙函见毛思诚《民国十五年以前之蒋介石先生》第六册，页八至二十)，政治野心已呼之欲出。我们再看一九二四年一月召开的中国国民党一大，没有他扮演的角色。那次会议，孙中山继续出任党的总理，中央执行委员二十四人，胡汉民、汪精卫、张人杰、廖仲恺、李烈钧、居正、戴季陶、林森、柏文蔚、丁惟汾、石瑛、邹鲁、谭延闿、覃振、谭平山、石青阳、熊克武、李大钊、恩克巴图、王法勤、于右任、杨希闵、叶楚伧、于树德，没有蒋介石。候补中央委员十七人中，有林伯渠、沈定一、毛泽东、张国焘、瞿秋白等，也没有蒋介石的名字。蒋介石也不是浙江省的代表，浙江代表六人是沈定一、戴传贤、杭辛齐、戴仁、胡公冕、宣中华，前三人由孙中山指定，后三人则由该省党员选举而产生。蒋只是军事委员会的一个委员。在一百六十五位抵粤代表之中，其落寞寡欢可以想见。对孙中山心存不满，也就事出有因了。
蒋介石于三月十四日致函廖仲恺，更加露骨。他显然不满意廖任军校的党代表，责备廖干预、侵夺他的权力，更进而批评廖“专意顺从”孙中山的联俄容共政策，若谓：
尚有一言，欲直告于兄者，即对俄党问题是也。