群众建立抗日根据地，迫使敌伪一度撤出邹平、长山县城。
与此同时，马耀南在清河平原抗击日寇，也接连获胜。先后在小李家套、爱贤村、司家庄，连战皆捷，打得鬼子晕头转向，惶惶不安。
1938年6月，独立二师整编为八路军山东人民抗日游击队第三支队，马耀南为司令员。不久，八路军山东纵队成立，三支队改称八路军山东纵队第三支队，马耀南仍任司令员，省委还委派富有武装斗争经验的杨国夫为副司令。这年10月，马耀南经郭洪涛、霍士廉介绍，加入中国共产党。
1939年初夏，马耀南接到山东省委关于开展章（丘）齐（东）地区工作，打通与冀鲁边根据地联系的指示，遂与杨国夫带领三支队，进驻邹平城西北的刘家井子一带。八路军刚刚驻定，日本少将松本便集中惠民、九户、青城、齐东、魏家桥据点的2500名日军和伪军，从西北面向三支队发起了进攻。战斗开始不久，松本又从张店、周村、邹平等地调来3500名日伪军，由东而南，向三支队包围。敌我力量悬殊，情况十分严重。
6月6日中午，村北面的敌人向刘家井子阵地发起进攻，一队队脱去上衣的日军端着刺刀冲来。马耀南指挥军民用五子炮和土炮猛轰日军，一连打退敌人3次进攻。下午两点左右。村东面的敌人在山炮的掩护下，向刘家井子冲锋，战士们猛烈还击，很快将敌人击退。这时，村东南的墓田，又被日军选作冲锋点。敌人兵力尚未展开，就遭到八路军三面夹击，尸横遍野。
天近黄昏，日军又一次发起冲击。激战中突然大风骤起，尘土蔽日。杨国夫抓住战机组织反攻，把敌人打了下去，随即带部队胜利转移。
刘家井子这一仗，三支队共消灭敌人800多，其中日军400余人。三支队的名声大振！
马氏三兄弟带领部队驰骋清河平原，使日伪顽胆颤心寒。日伪四处贴出告示，悬重赏捉拿马氏兄弟，并派重兵围追剿杀。
1939年7月22日，马耀南和杨国夫带领部队移防桓台牛王庄，准备挥师东进临淄，与另一支部队汇合，集中兵力打击敌人。
恼羞成怒的日军，寻机报复来了。他们尾追着三支队到了牛王庄。上午9时左右，敌疯狂地向三支队阵地扑来，三支队展开猛烈反击。战斗到下午两点多钟，马耀南和杨国夫认为转移的时机已到，决定撤出阵地。
杨国夫请马耀南率领司令部机关先撤，马耀南望着杨国夫，扶牢眼镜，然后和随行人员上了马，朝牛王庄东南约一里路的大寨村奔驰而去。不料，刚进大寨村，埋伏在街东头柴禾垛后的敌人突然向他开了火，一串子弹穿透了马耀南的胸膛。他为中华民族的解放事业，光荣地献出了生命。
消息传来，马天民悲愤至极。10月13日黄昏，马天民带上两个警卫员，进大辛庄侦察敌情。次日拂晓，马天民在一位朋友家刚要起床，突然枪声大作，敌人向大辛庄包围过来。原来马天民已被叛徒出卖。马天民和两个警卫员一边射击，一边撤退，撤到村庄西南的一片墓地时，敌人对他们形成了三面合围。日军和汉奸向马天民步步逼近，马天民咬紧牙关沉着射击，日军汉奸在他的枪口下一个个倒下去。敌人发疯了，用机枪、步枪朝着天民猛烈射击，马天民身中数弹，倒在血泊里。
大哥马耀南和三弟马天民相继牺牲的消息，强烈地震撼着马晓云。清河特委宣传部长赵明新代表党组织来看他，他强忍着悲痛说：“不要说了，我都知道了，感谢组织和同志们对我的关心，我不会躺倒。他们活着的时候，对我教育很大，比比他们，我做得还很不够。”稍停了停，他又说：“这些天我一直在想，大哥和三弟为抗日献出了生命，我这个活着的，怎样才能更好地继承他们的未竟之志呢！”他望着赵明新，恳切地说：“你是党的负责同志，我要求加入中国共产党！”
“好，晓云同志。”赵明新一把抓住马晓云的手：“我做你的入党介绍人。”在党组织和赵明新的帮助下，马晓云成了中国共产党党员。
马晓云通过侦察得知，三支队所以连续被敌人跟踪袭击，都是铁杆汉奸段书云通风报的信。他和战友们设计，迅速除掉了这个狗汉奸。
1939年底，党组织抽调马晓云去延安抗日军政大学学习。1942年夏初，他学习期满，回到山东，被分配到清西（清河西部）军分区任副司令员。晓云率部队与日寇展开针锋相对的斗争，先后攻克司家庄、花沟等据点，袭击了湖田炸药仓库，使清西地区打开了抗日新局面。
1944年，国际反法西斯战争，特别是苏联红军对德军作战取得巨大胜利。在中国敌后战场，八路军向日军展开了局部反攻。三支队审时度势，扩大了益都、寿光、临淄、广饶之间的四边地区，秋季又连克乐陵、临邑、南皮三县。抗日战争胜利在望。
在这种形势下，山东分局和山东军区指示，原清西军分区改为渤海军区第六分区，马晓云仍任副司令员。为了进一步发展胜利，部队分路行动。一路由许云轩司令员带领，到清河以南作战；另一路由李