为了稳坐钓鱼船，粟裕把目光放在了济南至郑州、徐州的鲁西南三角地带。他觉得把国民党第三军诱到这个地区，“鱼”上钩的可能性极大，于是下令：第三、第八纵队由许昌向淮阳方向挺进，吸引邱清泉兵团等部自鲁西南地区南下；第一兵团南渡黄河，开辟战场，调动邱清泉兵团；在第一兵团南渡，而邱清泉兵团北返堵击时，第十三、第八纵队和中原野战军第十一纵队北进，与第一兵团将邱清泉兵团歼灭于运动中。
陈唐兵团第三、第八纵队接到命令后，在宛西战役中再克许昌，歼守敌第二十一旅后，由许昌东进。
邱清泉很狡猾，他见我军第三、八纵队北上，认为是歼灭第三、八纵队的好时机，便指挥整编第七十五师，由定陶、成武地区向太康、淮阳方向行动，寻歼第三、八纵队。黄河北岸的华东野战军第一兵团等部，于5月30日、31日南渡，并前进至菏泽、巨野之线，与中原野战军第十一纵队会合。
第一兵团南渡黄河，朝三暮四的邱清泉中途变卦，想放弃第三、八纵队，集中全力歼灭粟裕的一兵团。蒋介石很欣赏邱清泉的方案，急令邱清泉兵团并指挥整编第七十五师北返堵击，并令整编第八十三、第二十五、第七十二师及整编第六十三师一个旅等，分别自平汉路南段和苏北地区向鲁西南疾进，企图与华东野战军主力决战。
此时，整个中原战场敌我双方频繁调动兵力，敌我交错配置，正处在互相监督之中，战机时时有，但稍纵即逝。第一兵团渡河部队原拟围攻定陶、曹县，吸引邱清泉兵团来援，配合陈唐兵团南北夹击聚歼之。但因邱清泉兵团6月5日已达曹县、单县一线，而陈唐兵团尚未北返，计划未能实现。
在河北省濮阳县境内王庄粟裕指挥部，粟裕正倒骑靠背椅审视着地图。面对当面严峻的形势，粟裕反而泰然自若，嘴角不时挂起一丝笑意。
善于独立思考的粟裕在确定“南渡黄河，歼敌五军”方案的同时就考虑到，抓不到邱清泉，就抓别的“大鱼”。因为歼邱兵团虽具一定条件，但不利因素较多。一是邱清泉兵团的五军等部，全是美式装备，战斗力很强，且一旦出现危急，蒋介石必全力救援。二是要歼灭五军，突击集团至少要四个至五个纵队，而当时华野兵力不足六个纵队，且战斗减员尚未补齐。三是敌五军这条“大鱼”即使被“摆来摆去”，三五天也未必能结束战斗。当援敌赶到，形势必定逆转。四是华野主力纵队还未集中。因此，粟裕认为，既然寻歼五军没有确切把握，就不能只盯住敌五军而放弃有把握吃到的“肥肉”。于是，他在考虑打敌五军的同时，也设想了一个“先打开封，后歼援敌”的腹案。
粟裕慎重地审视着地图，下决心要打开封，主要依据有如下几点：一是开封是国民党的河南省会、中原重镇，政治、军事皆占有重要地位。若开封告急，蒋介石必调兵增援。华野可在运动中寻机歼灭援敌。二是开封有守敌3万余人，不失为一块“肥肉”，但战斗部队只有在羊山集被华野打烂后重建的敌六十六师。该师部率第十三旅和河南省的两个保安旅，指挥不统一，战斗力不强。三是敌可用于增援开封的主力集团均在100公里外，而华野与中野相对靠拢，有强大的兵力和充裕的时间阻击援敌。四是攻打开封这样有40万人口，且经过日、蒋军时期设防的城市，在华野虽是首次，但陈唐的第三、八纵长于城市攻坚，部队有多年的攻坚作战经验。
想到此，粟裕更增添了先放弃打敌五军，转而打开封的信心。
6月9日，粟裕、张震提出五个作战方案，征询陈士榘、唐亮的意见。其中第二方案是：以第三、第八纵队一部“佯攻开封，吸引其增援”。6月10日，陈土榘、唐亮致电粟裕、张震，认为“目前敌我在鲁西南成为胶着状态。敌异常警觉，且有预定布置准备，正面不易歼敌。一般以避开鲁西南转入敌之侧后，调动敌于运动中歼击为有利”。并提出：“在目前中原整个作战方针上，应掌握战机，随时歼灭可能歼灭之敌的有生力量，削弱敌人，错乱敌人部署，造成敌人错觉，捕捉歼敌主力的有利条件与机会。勿被固定对象或固定时间、地区所限，以免贻误战机，形成敌我主力长期对峙，反为被动不利。”这时，陈唐兵团正从临颍地区向通许、杞县间开进。鉴于第三、第八纵队距开封只有一日行程，粟裕当即改变了在鲁西南作战的计划，并于6月15日定下了以第三、第八纵队“攻取开封，调敌西援”、“先打开封，后歼援敌”的方针和部署。
6月15日10时，粟裕、张震联名向中央军委及刘伯承、邓小平、陈毅、邓子恢以及华东局作了汇报。
对这一作战计划的调整，华野各部都感到比较突然。在鲁西南定陶司集镇的王必成和江渭清司令部，当粟裕对他们说，“我决心围歼开封守敌”时，王必成、江渭清非常惊诧。王必成失口喊出：“啊？！丢下五军不管了？！”
当粟裕准备向西转移时，王必成拦住他：“粟司令，我肚子里确实还有几句话。”
粟裕看了看表说：“好吧，应王司令要求，我再待3分钟。”