，学业未完，父亲猝然去世，只得中途辍学回家务农。
袁文才回乡后，对当地土豪劣绅的残酷盘剥更为仇视，故常邀集茅坪青年与之作对，引起豪绅的极大不满。其时，在茅坪半岗山活跃着一支以胡亚春为首的绿林“马刀队”，专吊土豪劣绅的“羊”（即绑票）。因胡无文化，“吊羊”时要请人写“勒令”，知袁文才具有反抗精神，且与豪绅有仇，便劝袁上山为伍。袁文才只答应暗中与他们来往。不久，消息走漏，土豪谢冠南得知，奏请官府派兵捉拿袁文才。袁文才闻讯躲入山中。反动军队扑空，恼羞成怒，将袁家洗劫一空，烧毁了房子，枪杀了袁母。袁文才归来见状，怒火中烧，于是怀着夺妻、杀母之恨，毅然投奔“马刀队”，落草半冈山。
因袁文才有文化，又足智多谋，一到“马刀队”即显露才智。他向胡亚春献计，在经济上要节约，做到细水长流；政治上要“劫富济贫”，保护平民百姓利益；战术上要避强就虚，像老绿林朱聋子一样，与对手“打圈圈”。袁文才此举很得胡亚春赏识，不久便由司书升为参谋长。从此，“马刀队”如虎添翼，不断袭击豪绅地主武装，队伍逐渐扩大。1924年，袁文才率部攻占宁冈县城新城，烧毁了县衙门，宁冈县知事左树暄惧其名声，弃城出逃永新。
“马刀队”严重地威胁着豪绅地主阶级。他们纷纷告急，要求派兵“进剿”。1925年春，江西省政府派出第三军第八师牛文田团刘汉涛一营兵力，分路“进剿”。袁文才等凭借地形熟悉，巧妙地与“进剿”军进行周旋，使敌人疲于奔命，毫无收获。“马刀队”从此名声大噪。
与袁文才同时，王佐带领着一支绿林队伍活跃在遂川县的茨坪一带。
王佐，又名云辉，号南斗。1898年生于遂川县下七村的贫苦农民家庭。由于生父和养父均相继过世，王佐自小就跟人打短工，13岁转学裁缝。三年从师过来，除学了门手艺，还练就了一身武艺。由于他艺高胆大，在给井冈绿林头目朱孔阳（朱聋子）缝衣时，被朱聋子聘为“水客”兼采购。1924年，王佐脱离朱孔阳，自己买了杆毛瑟枪，拉了十几个农民兄弟自立门户，自拥首领，打出“劫富济贫”旗号，干起了绿林生涯。以后，队伍慢慢扩大，发展到50来人。王佐的绿林武装，自然也引起豪绅阶级的不满，遂川豪绅同样搬来官兵“进剿”，可怎么也无法把王佐剿灭。于是，敌人便使出“软”招，招抚王佐下山，封其为“新遂边陲保卫团”副团长（罗冬生为团长）。王佐生性耿直，不久便自行其是，重操旧业。1926年，部下发生内讧，王佐险些被杀。他逃奔到茅坪袁文才处，向袁文才求援。袁、王两人年庚相同，斗争目标、生活经历相近，于是两人义结金兰，拜为“老庚”（即同年兄弟）。随后，袁文才帮其铲除了内讧分子，王佐重新归位，遂发展到60支枪。
此后，袁文才在井冈山麓的茅坪，王佐在井冈山上的茨坪，互为犄角，遥相呼应，雄踞于罗霄山脉中段的丛山莽林之中。
1925年夏，中共宁冈县党组织负责人龙超清在斗争中认识到掌握武装的重要性，决定利用自己是江西省议会议长儿子的身份，说服县知事沈清源对袁文才进行“招安”，然后再争取他站到共产党一边来。县知事沈清源因连年“进剿”袁文才“马刀队”劳而无功，当即依计而行。于是，龙超清与共产党员刘辉霄等，亲赴“马刀队”驻地与胡亚春、袁文才谈判。龙超清、刘辉霄晓以大义，并表示愿做人质，袁文才终被说服，但“马刀队”头目胡亚春却不肯下山。于是，袁文才、李筱甫、谢桂标等一行15人，携带6条枪下山到新城接受“招安”，编为宁冈县保卫团，袁文才任团总。三个月后，县公署又把下水湾一支绿林“招安”编在袁部，扩充为一个中队，枪支人员大增。
1926年7月，龙超清受中共江西省党组织派遣，回县从事农运，开展革命工作。在工作中，龙超清、刘辉霄等特别注意关心和争取袁文才这支武装，帮他招兵买马，扩充队伍，并经常找他谈话，宣传共产党宗旨和目标，启发他走上革命道路。在龙超清、刘辉霄等人的启发帮助下，袁文才终于表示愿意听从党组织吩咐。1926年10月，袁文才率县保卫团起义，龙超清等发动工农暴动密切配合，一举攻下县城新城，摧毁了县清乡局，缴枪14支，驱逐县知事出境，成立了宁冈县人民委员会（龙超清任委员长）。县保卫团改编为县农民自卫军，袁文才任总指挥。
从此，袁文才及其“马刀队”获得新生。1926年11月，袁文才加入了中国共产党。在共产党的领导下，袁文才充分发挥枪杆子的作用，于1927年间先后击毙、赶跑三个来宁冈执政的反动县长，使宁冈的政权始终掌握在共产党手中。
继宁冈县党组织争取了袁文才部并编为农民自卫军后，遂川县党组织也对王佐开展了工作。王佐在袁文才的影响下，也在1927年1月率部下山，编为遂川县农民自卫军，王佐任总指挥。
“马日事变”后，边界党组织及农民武装遭到严重损失，各县农民武装尽悉被敌人缴去，仅遂川