倾机会主义路线的结果，是错误的”。这年1月28日，哈东支队扩编为东北人民革命军第三军。赵尚志任军长兼第一师师长，冯仲云任军政治部主任。
第三军的壮大和珠河游击根据地的扩展，使日本侵略者犹如前胸挨刀、后院失火，疼之入骨。日寇在哈尔滨召开六省“治安肃正”会议，策划消灭抗联第三军，“毁灭赵尚志的根据地”。敌人在帽儿山设立“六县”办事处，日军大佐野崎任主任，以日军讨伐队为主，集中3000兵力向哈东进行“讨伐”。敌军所到之处，强迫群众搬到指定地点，妄想把抗联战士困死在深山密林之中。
日伪军对珠河游击根据地进行大规模“讨伐”的时候，抗联三军除留一部分继续在根据地内坚持斗争外，赵尚志率领主力经方正、延寿、依兰，出敌意外地北渡松花江进入汤原县境，与夏云杰领导的游击队汇合。
1936年1月，赵尚志协助夏云杰将汤原游击队改编为东北人民革命军第六军，夏云杰为军长。1936年1月，在汤原附近召开北满抗日部队领导人会议。参加会议的有赵尚志、李延禄、夏云杰、张寿、冯治纲等，协商成立了东北反日联合军总司令部，推选赵尚志为总司令。随后部队统一序列，赵尚志仍兼抗日联军第三军军长。
赵尚志以总司令的名义，命令亮子河矿警队和伪军连全部缴械，又命令戴洪滨、张寿不惜一切代价，占领汤旺河，拿下老钱柜，为建立巩固的抗日后方基地扫除了障碍。在根据地内，建起了兵工厂、被服厂、仓库、医院以及抗日联军政治军事学校，赵尚志亲自兼任校长。抗联三、六、九、十一军的团级干部和地方主要负责干部，大部分都在该校参加过学习和训练。
1937年“七·七”事变后，抗日战争在全国爆发。东北日军进一步加紧了对抗日联军的“围攻讨伐”。日本关东军司令植田谨吉、参谋长东条英机纠集日军1个师团、伪军4个混成旅，加上靖安军、兴安军等共3万余人，妄图在3年里消灭一切抗日力量。军事镇压由吉东地区转移到三江地区，主要对象是赵尚志领导的以三军为主的抗联部队。在这种情况下，北满抗日联军在赵尚志的指挥下多次击败敌人的围攻，保住了汤原游击区。可是有人无粮、有枪无弹的局面越来越严重，许多重大问题急需请示党中央作出决定。身为北满临时省委执委主席的赵尚志多次派代表去找党中央，但都毫无音信。
转眼间寒冬降临了，大雪又纷纷扬扬地飘荡起来，部队的处境越来越困难。敌人妄想把缺衣少吃的抗联指战员冻死在荒山野林。这时北满抗联总政治部主任张寿带着六军军长戴洪滨和六军一师代理师长陈绍宾来找赵尚志。刚从苏联回来的陈绍宾说：“苏联远东军区司令海洛将军，让我捎个信给抗联总部，叫咱们派一个重要的领导人过去和他们共同商量抗日大事！他说，他们可以武装咱们部队……”
对这件重大事情，在依兰县杨家沟召开北满省委临时会议讨论。陈绍宾在会上介绍了事情经过，与会者都觉得这个“口信”很重要，如真能达成协议，就很可能成为东北抗日战争的转折点。一定要派一位重要领导人去完成。经认真研究讨论，会议一致同意派赵尚志为中共北满临时省委代表，去苏联谈判。
赵尚志肩负着重要使命启程上路了。护送赵尚志出国境线的省委领导人有张兰生，有联军总政治部主任张寿、六军军长戴洪斌等人。在路上，赵尚志忧心忡忡地对张兰生、张寿说：“如果过境后对方不承认怎么办？”张兰生说：“对方会承认的。”
1938年1月，旧历正月初五，赵尚志在戴洪斌的护送下，带着一个班的警卫人员从萝北县名山东部过境，走上对岸的苏联国土。
不幸的事件终于发生了，赵尚志过境后，首先被解除了武装。接着对方又通报说：“海洛将军没有邀请任何中国抗联的代表来谈判的事，他不可能来见你。”这使赵尚志非常吃惊和迷惑，他感到受骗了，立即要求回国。对方说：无权答应。他绝食了，数天滴水不进，他的抗议、请求、绝食、意见，不但没有效果，反而境遇更加恶化。他被丢进了一间牢房似的地下室，长达一年半之久。
1939年6月，苏方才向赵尚志解释说，把他关押审查是个误会。同时向他传达了中共驻共产国际代表团的决定：任命赵尚志为东北抗日联军总司令。赵尚志立即组织了一支100余人的精干部队，于同年7月回到东北，投入战斗。但由于奸细造谣挑拨，他未能行使总司令职权。12月又接苏方电报，让他与北满、吉东两省委负责人到伯力开会；于是年底，他再次率队过界去苏联。
1940年由于叛徒造谣说赵尚志要“捕杀省委”，北满省委不经调查就作出了“永远开除”党籍的决定。3月，赵尚志被调到东北抗联第二路军任副总指挥。1941年初，又被调去莫斯科学习，再次受到批判。但他坚持自己的正确主张，一面写下了长长的意见书，准备向党中央申诉，一面坚决要求重返抗日战场。
1941年秋，苏方允许他带5个人的侦察小组回国。他说，他要重新组织队伍与