“二次革命”爆发后，吴佩孚受命率炮兵团南下助战，由于秀才兄改不了夸夸其谈的毛病，又经常端出曹锟副官的架子，因而在同僚中很不受欢迎，当时就有人这样讽刺他：“嘻、嘻、嘻，语言乏味；哈、哈、哈，面目可憎。”有一次吴佩孚请同僚们吃饭，结果只来了军医处长刘国庆和时任第九团团长的萧耀南两人，遭此冷遇，吴佩孚却毫不在乎地说：“都不来，更好；咱们可以多吃，多说话。”由此可见其人缘的确不佳。
不过，吴佩孚的口才和文才虽然在同僚们面前不受欢迎，但在关键时候却发挥了作用。有一次湖南督军汤芗铭请曹锟赴宴，在开席之前，汤芗铭在欢迎辞中极力夸赞了曹锟一通。按当时的规矩，主人致欢迎辞了，客人也应该致答谢辞，但曹锟向来不善辞令，于是诡称自己感冒而让副官吴佩孚来代为致辞。
这下吴佩孚算是抓到机会了，他在致辞中将湖南的人文历史、道德文章以及汤督军的丰功伟绩都添油加醋的颂扬了一番，说得是字字珠玑、滴水不漏，令在场人士刮目相看。事后，汤芗铭对曹锟说：“哎呀，你的部队真是人才济济啊！你看你的这位副官长，真是文武全才，人中精英啊！”
说完，汤芗铭的意思是想把吴佩孚留下来给他帮忙，准备委派他做个旅长。曹锟本来觉得吴佩孚这个小子能力虽然还可以，但就是这张嘴成天唧唧呱呱，没个消停，没想到汤督军却如此赞许，心想吴佩孚可能还真是个人才，那不行，我的人怎么能为你所用呢？
等曹锟回了岳州，便把吴佩孚找来，说：“你小子还真行，难怪昨天汤督军这么看得起你。你说你这么个小个头，黄头发，黄胡须，两眼炯炯有神，莫非你是金星下凡来帮我的？以后你好好跟着我干，将来一定有个好前途！”
凑巧的是，第三师第六旅的旅长张鸿逵突然发病去世了，本来是应该由团长王承斌递补的，但因为有人反对王继任旅长，结果曹锟便让吴佩孚升任了第六旅的旅长……这真叫“有才又有运，处处同花顺”，由此，吴佩孚也就成为了曹锟的铁杆心腹，并在北洋军人中崭露头角了。
介绍完了吴佩孚的经历后，却要说到1918年的湘鄂战争，当时吴佩孚奉曹锟之命率第三师南下入湘，在大败南军后相继攻克岳阳、长沙，继而驻防衡阳。入湘不久，吴佩孚因战绩卓著而正式升任了第三师师长，由此成为曹锟军中的第二号人物。
时间过得很快，一晃便两年过去了，吴佩孚的军队已经在衡阳呆得不耐烦了。事实上，早在1918年7月，吴佩孚便电请撤防北归，原因很简单，当时的督军是皖系的张敬尧，第三师驻防湘南实际上是为他看家护院，这如何使得？再说了，第三师的官兵大都是北方人，他们久居潮湿闷热的南方当然也不乐意。
但是，由于当时的战局刚刚稳定下来，而接着又是一战结束、南北议和，巴黎和会之后又闹学潮，国际、国内的事情多得不得了。一直等到1920年，吴佩孚再也等不及了，他这次不管北京政府批准还是不批准，都要率兵北撤了。
张敬尧在听说吴佩孚要北撤后，这下可把他急坏了，因为他深知自己在湖南的这两年太平日子，完全是倚仗吴佩孚的第三师替他守住了山门、挡住了南军，不然，靠他那孱弱无能的第七师是根本应付不了场面的。张敬尧在督湘期间，由于其高压政策和搜刮劣迹，一度还引发了湖南人的“驱张运动”，当时的毛泽东就曾作为“驱张”代表前往北京向大总统徐世昌请愿。
段祺瑞在接到吴佩孚请求“撤防北归”的电报后十分生气，他拿出老校长的架子，亲自致电吴佩孚并斥责他“藐视中央、不守军人纪律”。谁知吴佩孚这口气也憋了很久，他反过来通电驳诘段祺瑞“穷兵黩武、祸害国家”，并表示北撤决心已下，不容更改，而后台老板曹锟则于4月8日在保定召开直系各省联盟会议，商议对付段祺瑞和皖系的办法。
5月20日，在曹锟的授意下，吴佩孚不等中央下令，便率领部队撤出防地。在撤军之前，吴佩孚做了精心的准备，以每旅30里的间距，水陆兼行，从衡阳撤往长沙。一路上，第三师的官兵高唱着吴佩孚作的《回防途》一诗：
行行复行行，日归复日归；江南草木长，众鸟亦飞飞。
我今定归期，天下一绒衣；船舻连千里，旌旗蔽四周。
江上送归舟，风急不停挥；得遂击楫志，青史有光辉。
军容整齐，军歌嘹亮，吴佩孚练兵甚佳，秀才不是白中的，这诗写得着实不赖。
在吴佩孚的第三师及同为曹锟属下的王承斌、萧耀南等部队北撤后，其他在湖南的北洋军队阵脚大乱。由于吴佩孚撤军前已经与南军达成协议，吴军一走，湘军赵恒惕部随即北上接防，不到一周，衡阳、莱阳、祁阳、宝庆等地便落入了湘军手中，而张敬尧属下的湖南暂编第一师吴新田部、暂编第二师田树勋部很快溃逃，兵败如山倒。
至于其他的北洋部队，他们见吴佩孚的部队走了，他们也无力抗拒南军，随后也跟着北撤，比如原驻扎湘潭的范国璋第二十师、驻扎