南京国民政府的提议，于1935年12月出任国民政府军事委员会副委员长，且开始与中国共产党秘密联络，率先在山西联共抗日。
石友三是中国现代史上最反复无常的军阀之一，日本人的介入，终于使这个多变的军阀堕落为侵略者的帮凶。1931年3月，土肥原受日本参谋本部的派遣，再次来到华北，在天津设立了特务机关。土肥原此次选中的，正是反复无常但倾向反蒋的石友三，“企图利用石友三之乱，消灭张学良的势力，以便与华北同时一举解决满洲问题”。为此，土肥原机关进行了“石友三工作”。为配合“石友三工作”，日本还开展了对于蛰居大连的阎锡山的工作。6月15日，阎锡山乘坐日本飞机，秘密由大连返回山西，加紧与石友三等进行联络，共同进行反对张学良的活动。他还派军人专程赴天津，经由土肥原机关，办理日方供应武器事宜。果然，在日本特务的策动下，石友三很快打出了反蒋旗帜。石友三的反蒋行动，还受到了广东方面的支持，被任命为第五集团军总司令。7月18日，石友三通电讨张。但战事发动后，应者寥寥，又受到蒋、张两军的南北夹击，不出半月即告溃败。
1931年5月28日由反蒋联盟组成的广州国民政府，是南京国民政府实现统一后冒出来的最大的反对派，日本当然不会放过这个机会。
6月下旬，汪精卫、孙科及广州国民政府外交部长陈友仁等，通过日本驻广州总领事须磨弥吉郎，向日方提出了援助其反蒋运动及赴日的请求。币原外相于7月2日回电颇老辣地说：现在与广东政府商讨将来问题，不合时宜；虽然广东政府未经日方承认，但对其强烈要求派代表赴日，也无异议。经过一番磋商之后，7月26日，陈友仁等人化名成日本人，秘密前往日本。至8月13日离日之前，陈友仁在东京，访问过陆军省、参谋本部及政友会总裁犬养毅、黑龙会首领头山满等人，并与币原外相进行过多次会谈。其间，双方会谈涉及承认广东政府、聘请军事顾问等具体问题，对于武器援助问题也有所涉及。
据1931年广州国民政府的主要成员之一的李宗仁回忆说：
九一八以后的两三年内，日本军、政、商、学各界要员访粤，并来我私邸访问的，多至百余人。军人中，如土肥原贤二少将、松井石根中将、冈村宁次少将、梅津美治郎少将、板垣征四郎少将、铃木美通中将、和知鹰二中佐、血田宽三、服部、中井、吉野、佐方等，都是后来侵华战争和太平洋战争中的要角。
在此期间，桂系得到了大量日本军事援助，其中包括5000枝步枪、几十挺机枪、十多架飞机，日本还向广西派出几十名陆军、空军教练。对于日本的援助，李宗仁的态度却是：我们将来可以利用日本人代我们训练的陆空军和向日本买来的武器打日本，正合广西人们的俗话：“借他人的拳头打他人的嘴巴。”后来，据说在李宗仁指挥的台儿庄战役中，这些日本早年援助广州国民政府的军火，被用于与日军的战斗中。
1931年底，关东军又派遣土肥原到达广州，与在此酝酿进行反蒋运动的胡汉民会见。土肥原在攻击南京政府的同时，表示愿意由日本出面帮助胡“出面组织健全政府”，而胡汉民则以本国内政不要他国干涉为由拒绝了。至此，日本与广州国民政府之间的暗送秋波结束了。