长监察委员古应芬等四名监察委员联名发表弹劾蒋介石电，指责蒋“窃夺军权，浸而盘据中枢，把持国枥，潜植羽翼，威胁老成”，并要求释放胡汉民和蒋介石立即下野。随后，汪精卫、两广实力派陈济棠、李宗仁、白崇禧等都通电拥护四监委的弹劾案。5月25日，反蒋各派云集广州，由唐绍仪领衔，古应芬、林森、汪精卫、孙科、王宠惠、陈济棠、李宗仁、陈友仁、邹鲁等21人，联署发出促蒋于48小时内下野的通电。27日，反蒋各派在广州举行国民党中央执、监委员非常会议。“非常会议”公布了国民政府组织大纲，并就成立政府的各项事宜做了准备。5月18日，广州国民政府成立，以汪精卫为主席，以陈友仁为外交部长、邓召艿为财政部长，并宣布否认南京国民政府。至此，宁粤对峙局面形成。
广州国民政府是个奇怪的政治大联盟，它包括了胡汉民派、汪精卫派、孙科派、西山会议派和两广军人陈济棠、李宗仁、白崇禧，等等。他们的利益和政治诉求各不相同，却在反蒋的旗帜下联合起来，而一到决策的具体问题上，就会意见分歧、顾虑重重，它的行动力是很弱的。
蒋介石对广州国民政府的弱点看得很清，所以决定不去管它。他并没有像中原大战那样兴师动众准备一战，而是继续调集大军，对红军进行第三次“围剿”；同时，宣称不宜对广州用兵，而要谋求政治解决。
直到7月21日，广州国民政府才正式颁布讨伐令，以“剿共讨蒋”进行号召。7月18日，在广州国民政府的策动下，石友三在河北顺德就任广州政府的第五集团军总司令，19日，通电反蒋反张（学良）。张学良立即调动东北军主力部队于学忠部第一集团军和王树常部第二集团军入关，与蒋介石所派遣的三个集团军南北夹击石友三。8月3日，石友三部全部瓦解，石本人逃亡大连。这一仗，虽说仗打得很不像样，但却是广州方面对南京最大的一次军事行动。
广州方面仍然意见分歧。实权派陈济棠主和，汪精卫、李宗仁主战，导致汪精卫愤而出走。直到8月末，双方才达成妥协。9月初，两广部队出师湖南北伐，湘赣边境的唐生智旧部颜伯刚、龚浩等倒戈响应。广东北伐军进入湘南的宜章、郴县，逼迫衡阳。蒋介石派何应钦往长沙督战。眼看战争一触即发，这才有了三位国民党中委9月10日的通电。可是，到了9月14日，粤桂军会攻衡阳失利，分别退入两广边境，双方又恢复了军事上对峙状态。
蒋介石眼看就要大获成功了，广州国民政府的无疾而终似乎已成定局。可就在这样的当口，九一八事变发生了。蒋介石的不抵抗政策激起了全中国的怒潮，也给了广州国民政府起死回生的机遇，于是“反蒋抗日”成为广州方面厉害无比的杀手锏。
蒋介石变得有些被动。于是思量再三，他又玩起为以退为进的老把戏。10月，蒋介石的使者去广州，表示愿意为民族利益而与南方势力达成妥协。他还亲自飞往上海，与胡汉民、汪精卫、孙科这些对头们谈判。12月15日，蒋介石通电下野。他在电文中说：
胡汉民等同志微日通电，且有“中正必须下野，解除兵柄，始赴（南）京出席（会议）”等语。是必欲中正解职于先，和平统一方得实现，……权衡轻重，不容稍缓须臾，再思思之，惟恳请中央准予辞去国民政府主席等本兼各职……
这是蒋介石政治生涯中的第二次下野，但却不是黯然去职，他把一个日本在东北步步进逼而国民政府却注定难有作为的局面留给了广州方面，自己则握着一手的王牌，回奉化溪口老家去了。
就在蒋介石下野的同一天，手握重兵的张学良也通电请辞陆海空军副总司令一职。并且，就在蒋介石偕夫人宋美龄离开南京的同一天，张学良电蒋曰：“公今旋里，毋任痛心！日寇近迫锦州，河北局面如何善处，乞公赐予最后指针。”同退共进之意，尽在不言之中。想中原大战正酣之时，正是张学良引大军入关，奠定了蒋的胜局，而现在少帅无保留地表态，更成为蒋大局在握的利器。
1931年12月28日，日军向在锦州的东北军发起进攻。锦州是中国在关外的最后一个重要城市。取代蒋介石的孙科政府下令张学良死守锦州。张学良则因为力量不足，请求中央政府予以增援。孙科召集会议，但却拿不出具体的方案来，这时，他深深地感受到了“口头上抗日简单，实际上抗日行动难”的滋味。
只是短短的半个月时间，以广州方面为班底的中央国民政府就山穷水尽了。1932年的1月2日，国民政府主席林森和行政院长孙科就不得不电促蒋介石重返南京，共商大计。
同一天下午2时许，日军占领锦州。至此，东三省的主要城镇和大部分地区沦陷。