以及武都郡人李俊、王灵等，约好共同讨伐马超。
姜叙还派堂弟姜谟悄悄潜进冀县，设法联络上仍在关押之中的杨岳，还联络了梁宽、赵衢、庞恭等人，在冀县城内秘密结盟。
建安十七年（212年）九月，杨阜和姜叙在历城与冀县之间的卤城起兵，马超听说后亲自率兵讨伐，这正是杨阜、姜叙想看到的结果。
马超一走，赵衢、梁宽等人立即把杨岳解救出来，利用杨岳在冀县的影响力，很快控制了县城。杨岳下令关闭冀县城门，杀了马超的妻子儿女。事情好像很容易，其实这是长期准备的结果，而关键人物是赵昂以及他的妻子王氏，这一点在正史中没有记载，在皇甫谧所著的《烈女传》有详细记述。
赵昂就是杨阜、姜叙找来结盟人中间的一个，《烈女传》说他当过县令，后来是刺史的军事参谋（参转军事），他的妻子叫王异，当时夫妻俩居住在冀县。马超攻打冀县，赵昂积极守城，妻子王异也力所能及地参加了守城。韦康想投降，赵昂也进行过苦劝，但韦康不听，冀县为马超所占。
马超想拉拢赵昂为己所用，但又不完全信任（欲要昂以为己用，然心未甚信）。马超的妻子杨氏听说王异不一般，就主动前来相见。王异知道丈夫已秘密参加了图谋马超的行动，为了赢得马超的信任，她也主动接近杨氏，最终获得了杨氏的信任。通过马超的妻子杨氏这层关系赵昂也得到了马超的信任（昂所以得信於超，全功免祸者，异之力也）。
马超攻打卤城，遭到杨阜、姜叙的抵抗。杨阜亲临一线，身上先后负了五处伤，本族子弟也有七个人战死。在他们的拼死抵抗下，马超无法得手。
马超想回兵，但冀县已经易主。马超走投无路转而偷袭历城，据《烈女传》记载，马超的人马开到历城，城里居然认为这是姜叙等人回兵，没有任何防备，马超轻松地将历城占领，抓到了姜叙的母亲。
马超想用姜叙的母亲作筹码与杨阜、姜叙谈判，姜母痛斥道：“你这个背弃父亲的逆子，杀害守君的贼人，天地岂能容你，不早点去死，还有什么面目活着？”姜母就是故意要激怒马超，然后求得一死。马超大怒，果然把她杀了。
后来马超无可奈何，下令一把火烧了历城，之后由武都郡进入汉中，向张鲁求救去了。
第二年（214年）春天，马超从张鲁那里借了一些人马，重新杀回来，试图夺回凉州，姜叙迅速向长安的夏侯渊求救。有人建议夏侯渊先向邺县汇报后再做行动，但夏侯渊认为长安到邺县来回四千里，等接到命令时，姜叙那边肯定坚持不住了（公在邺，反覆四千里，比报，叙等必败，非攻急也）。
夏侯渊说得没错，但这个想法为何不出现在一年前？去年春天，马超围攻冀县，前后长达八个月之久，夏侯渊居然没有任何反应，这是一个很费解的谜。
这一次夏侯渊行动很快，他让张率五千人先出发，从陈仓（今陕西宝鸡）入凉州，他自己督运粮草紧跟其后。
张过了陈仓，在渭水上游遇到马超所部，马超率领由氐人和羌人组成的联合兵团共数千人来攻张。但仅刚一接触，马超就败了下来，等夏侯渊大军开到，原来表示效忠马超的凉州西部各县全部投降。
马超无奈，只得再次逃往汉中，从此不再做反攻凉州的打算。
至此，包括汉阳郡、武都郡、安定郡、陇右郡等在内的凉州大部宣告平定，对曹操来说，这是一个意外收获。为表彰此战有功人员，曹操以朝廷的名义连封十一个人为侯。作为第一功臣，杨阜自然在封侯之列，曹操准备封他为关内侯，但杨阜却上表辞让。
曹操对此表示不接受，亲自给杨阜写信要他接受。杨阜后来担任过益州刺史、金城郡太守、武都郡太守等职，曹丕继位后到朝廷任职，担任过将作大匠、少府卿等职，以直言恳谏著称。刘晔评价他有“公辅之节”，陈寿评价把他跟汉初名臣汲黯相提并论，称他“刚亮公直，正谏匪躬”。