1948年夏天，我华东野战军陈士榘、唐亮兵团先打了宛西战役。紧接着，华东野战军粟裕兵团，加上中原野战军陈赓兵团，又打了宛东战役。然后，由粟裕统一指挥华东野战军和中原野战军的中原地区部队攻打军事重镇开封。蒋介石亲自坐着飞机在空中督战，狂炸市区，并命令邱清泉兵团、孙元良兵团、胡琏兵团、刘汝明兵团四个兵团增援开封。
6月20日，我军在外线阻击援军的同时，已将开封城除了城中心的制高点古龙亭之外的全部市区攻下。这时粟裕除留下一个师攻打古龙亭外，下令撤出攻城的主力华野三纵、八纵，加上十纵和两广纵队（两广纵队原本是我党抗日战争时期在广东省的抗日武装，即著名的东江纵队。抗战胜利后，根据国共两党在和谈期间达成的停战协议，全部北撤。1946年7月5日，东江纵队主力2583人走海路北撤烟台，进入我山东解放区，编入当时的新四军和山东军区，仍称为东江纵队。在战斗中队伍不断扩大，1947年8月编入山东野战军，改称为两广纵队。司令员曾生，政委雷经天）组成阻援兵团，由华野一纵、四纵、六纵，中野十一纵组成突击兵团，围歼蒋介石新组建的，由豫东驰援开封的区寿年兵团。这时，国民党军的注意力都集中在开封的攻坚战上。6月22日，开封古龙亭被攻下，开封全城解放。可是我军却很快又撤出开封。而且，华野的三兵团（即陈士榘、唐亮兵团）还根据粟裕的命令，有意放开原来一直被我军阻击于兰封一带的敌邱清泉兵团，让其进入开封。与此同时，我军的突击兵团却在华野一纵司令员叶飞的统一指挥下，猛然向睢县地区的区寿年兵团发起强攻。这一撤一攻，完全出乎蒋介石的意料。他立即命令20万大军前往援救。而我军早已准备了将近30万人的兵力，双方在中原大地展开大战，这一场大战就是有名的豫东战役，也是解放战争开始以来最大的一个战役。如果从6月17日攻打开封算起，豫东战役一共打了20个昼夜，我军全歼了区寿年兵团，区寿年被俘（这也是我军在解放战争中生俘的第一个国民党军的兵团司令），黄百韬兵团和邱清泉兵团被重创，蒋军的五大主力之一的第五军被我击溃，黄百韬的兵团部差点被我军端掉，我军共歼灭敌人9.4万人。
豫东战役结束之后，为了切断徐州和山东的联系，为了让整个山东解放区连成一片，为了进一步取得打大仗、攻打大城市的经验，更重要的是，为了在解决济南之后，我军没有后顾之忧，能腾出手来将力量投入淮海方向的大战中去。我军决定攻打济南。
山东省会济南是联结华东、中原、华北三大战场的战略枢纽，自从日军占领时期起，就不断修筑了大量而坚固的工事，国民党军在其基础上又加以扩大和加固，既有古老的城墙、城壕，又有现代化的电网、地雷，加上各种类型的碉堡，防守体系十分坚固。
济南国民党守军的主将是徐州绥靖公署第二绥靖区司令官王耀武。
王耀武虽然只是黄埔三期毕业生，可他却在过去与工农红军的战斗和对日作战中立过大功，是所有黄埔学生中第一个出任方面军司令官和省主席的人。不过，这时候的山东战局已无法让王耀武乐观，因为王耀武所辖的军队已经在莱芜战役、孟良崮战役、鲁西南战役等战役中多次被我军击败，他早已深知陈毅、粟裕的厉害。所以，虽然济南有坚固的纵深达十几公里的防御体系，虽然他在济南已经苦心经营多年，但对济南的防守仍然没有多少信心。自豫东战役之后，他已明显地察觉到华东野战军在向鲁西结集，粟裕的下一个目标十有八九就是他所防守的济南。他如芒在背，急飞南京，向蒋介石汇报军情，请求援军。
有多年作战经验的蒋介石对于济南这个战略要地的重要性当然是十分明白的，而且他也已经预感到，双方都在徐州地区集中了大量兵力，这个自古就是兵家必争之地的徐州地区不久就会有一场大战。如果济南能够掌握在自己手中，不仅可以将粟裕的几十万兵力拖在山东，又能使未来的大战开战以后让粟裕有后顾之忧，所以蒋介石决定给王耀武增加兵力。为了抢时间，蒋介石命令空军司令王叔铭安排大批空运力量，很快从青岛、徐州向济南运送了一个整编师和两个旅的兵力，使王耀武手中的兵力达到了三个整师又五个旅，共11万人。同时蒋介石命令徐州“剿总”副司令杜聿明指挥黄百韬、李弥、邱清泉三个兵团共17万人组成所谓“进剿兵团”，一旦济南打响，就分路北援济南。此外，蒋介石还命令他的空军部队以济南、青岛为基地，以北平、徐州为辅基地，集中战斗机162架、重型轰炸机42架，作为空中打击与支援力量。于是，王耀武增强了信心，就把全力投入到济南的防守，等待着华东野战军对济南的攻城。
势态很明显，双方都看准了这一着棋，都把济南这一仗看作了未来在徐州地区大战的一场必不可少的前奏。
济南的攻防之战将是一场恶仗。
在西柏坡，毛泽东和中央军委的负责人一直注视着粟裕当时设在济宁的指挥部，因为他们也一致认为，必须解放济南，但“这是一次