由于广东水师的训练水平相对较差，因此每年都会随同北洋舰队参与操练。1894年中日甲午战争爆发后，广东水师的“广甲”、“广乙”、“广丙”三舰也随同北洋舰队参战。在黄海大战中，由于与之编组的“济远舰”擅自撤离战场，“广甲”舰在管带吴敬荣的率领下随之逃跑，最后又在惊慌失措中搁浅于大连湾三山岛附近。由于担心日舰发现，“广甲”舰最终自毁以免资敌，而黎元洪等人跳海逃生，回到旅顺。
甲午之战后，北洋舰队全部覆没，广东水师也是损失惨重，那些原本为人所钦羡的海军将领也大都被朝廷革职（船都没了，养你干吗？），各回原籍，自谋出路，黎元洪当然也不例外，他大概没有想到的是，自己的海军梦竟是以这样的方式破碎的。
失业后的黎元洪彷徨无计之时，之前的老领导、前两广总督张之洞调任了两江总督，此刻正在南京设立延才馆，招聘武备人才。黎元洪得此信息后，急忙赶到南京去投奔。张之洞对黎元洪的海军背景并不感兴趣，他当时要招募的是炮台防御专才，黎元洪灵机一动，便把自己曾经学过的陆上防御理论叙述了一遍，张之洞对此很是赞赏，于是委派他为负责监修南京城外的炮台。由此，黎元洪弃水登岸，由一名海军军官开始转型为陆军将领。
1896年，张之洞调任湖广总督，由于黎元洪在南京干得不错，张之洞便将他带回老家湖北，继续效力。在甲午战后，鉴于旧式军队的拙劣表现，朝廷随后出台了编练新军的政策，其中便有南北两个试点，北是袁世凯的小站练兵，南就是张之洞编练的自强军。由此，黎元洪得到了张之洞的极大重视，并于1898、1899和1901年三次受命前往日本，考察学习东邻强国的陆军训练和军事工业等。
应该说，湖广总督张之洞对黎元洪是很赏识的，他曾经写了个“智勇深沉”的条幅赠给黎元洪，并上奏朝廷称其“忠勇可靠，堪当重任”。由此，黎元洪官运亨通，由帮带升管带、千总，再升守备、都司，随即又晋升为副将，成为武职中的从二品大员。1906年，清廷计划在全国范围内编练新军36镇，湖北新军的计划任务是两镇，当时暂时练成第八镇和第二十一混成协（相当于旅），前者由总兵张彪任统制，后者则由黎元洪出任协统。由此，黎元洪也就成为湖北军界中的第二号人物。
第八镇统制张彪长期跟随张之洞，但他是个旧派军人，对新军的操练并不熟悉，因此在清末的几次秋操中，张彪虽然名义上是南军的总统官，但实际指挥者却是黎元洪。特别在1908年的太湖秋操中，黎元洪率南军与北军对抗，三战三胜，由此声誉鹊起，引起了军界的关注。
黎元洪虽然是新派军人，对手下的士兵也还不错，但他在仕途上顺风顺水，因此对革命党原本并无好感。在武昌起义爆发后，黎元洪亲自坐镇第四十一标并令关闭营门，禁止士兵外出参加革命。其间，一个名叫周荣棠的革命士兵翻墙而入，前来四十一标联络起义，很不幸被抓获，黎元洪为防止军心动摇，当即下令处决。直到午夜时分，革命党用蛇山和楚望台上的大炮轰击四十一标，黎元洪方知大势已去，只得打开营门，各自逃生。
黎元洪逃出营门后，便来到幕友刘文吉家中暂避。在慌乱当中，黎元洪感到大难将至，他语无伦次地对刘文吉说：“我身居协统，如今部下兵变，死也是死，不死也是死。如果革命党失败，朝廷必定要重罚我；如果革命党成功，我恐怕也是性命不保，这下如何是好，如何是好？”刘文吉劝他说：“现在事态不明，还是先观望一下好，说不定会有出人意料的结果”。
这个刘文吉，还真是有先见之明。在一夜激战后，尽管革命党已经取得胜利，但有个棘手的问题摆在他们面前，那就是临时指挥起义的首领都资望太浅，不能服众，而原先的那些革命党首领又下落不明，革命士兵们陷入了群龙无首的境地。
命运的改变也许就在不经意间。黎元洪没想到的是，正当他惶惶不安的时候，革命党人已经探得他的下落，并决定由他来出任军政府的都督。黎元洪对此十分惶恐，连称：“莫害我，莫害我！”但革命党哪里管得了那么多，大笔一挥，便在军政府的布告上签下了黎元洪的大名……这就叫霸王硬上弓，想不做都不行。
三天后，黎元洪也想通了，反正这“黎大都督”的名声已经传遍全国，认与不认已无区别，倒不如干脆就认了算了。于是，黎元洪积极投身革命事业，一举成为了首义元勋，并进而当上了民国的副总统。
在袁世凯时期，黎元洪被段祺瑞半请半骗的弄到北京，形同软禁，好在他也懂得明哲保身之道，但凡具体事务，概不插手，袁世凯倒也对他还算满意，两人还结为了儿女亲家（其中也不乏强迫的因素）。
顺从归顺从，黎元洪在袁世凯称帝的问题上还是保持了坚定的立场，保住了革命气节。当袁世凯封他为“武义亲王”并派人亲自送来“亲王”服的时候，黎元洪是死活都不肯收下，还将来人赶出门外。
正因为黎元洪在关键时刻做出了正确抉择，这才顺顺当当的接了老