极进行渡江的各种准备，包括派出小分队南下侦察。为了选择渡江地点及确定如何渡江，粟裕还特派曾希圣、孙仲德分别带领一批干部到皖江和巢湖地区工作。与此同时，根据中央的决定，华东野战军第一兵团的干部配备、地方工作、物资后勤等工作也在积极进行。中央决定，由粟裕担任中共中央东南分局书记，由叶飞担任第一兵团副司令员兼副政委，由金明协助粟裕做地方党的工作，由骆耕漠负责南下之后的财经工作。当时，连南下之后对部队的老弱病残的安置、家属小孩的安置都已经做出了具体的计划，在新区使用的银元和由自己发行的“东南流通券”纸币都已经在印制了，可以说是“万事俱备，只待渡江”。而用周恩来和陈毅对粟裕的评价，则叫“心细如发”。
作为一名党的高级干部，粟裕得到中央命令之后就开始积极准备，以待中央一声令下立即出动。可是，作为一个领兵作战20年的指挥员，特别是曾经在江南长期作战，如今又将重返江南独立作战，担负党中央赋予的重新开辟江南根据地重担的粟裕，对于中央的一个重要决策，对于即将到来的南下江南作战并开创新的解放区的重要任务，进行了多方面的思考。他必须认真领会毛泽东这一决定的战略意图，分析敌我双方的力量对比与分布，考虑好应付可能出现的各种困难的办法并在出发前有所准备，为大部队的南下制定出最佳的行动方案。在这些工作还未做好，心中还没有充分把握之前，他是不会轻易向中央提出自己意见的。
在反复考虑之后，粟裕认为中央军委的决定的确有大胆与出奇之处，如果他带3个主力纵队南下，打乱敌人的后方，肯定会取得一定的效果。但是，这既是一着妙棋，可又是一着险棋。在仔细权衡华东野战军南下与不南下、我江北主力部队分兵与不分兵的利弊之后，他认为中央军委的决策并非上策，认为不南下会取得更佳的战果。粟裕的基本考虑是：中央作出这样决定的主要目的，是要改变中原战局，在中原打歼灭战，大量地歼灭敌人。事实上，这时在中原地区打大歼灭战的条件已逐渐成熟。
一是敌人在中原的三条铁路干线和各大中城市的防守上分散了很多兵力，有利于我军在运动之中捕捉战机；
二是中原地区的平坦地形虽然有利于敌人相互支援，但如果我军破路之后，敌人的重装机械化部队就无法机动，有利于发挥我军徒步行军的长处，迅速集中兵力，实现战役的速战速决；
三是中原地区背靠山东和晋冀鲁豫老解放区，便于得到支援和安排伤员；
四是我军挺进外线以后，已经度过了最困难时期，逐渐适应和掌握了外线作战的特点，新的解放区也已经有了一定的基础。
相反，如果3个纵队过江，虽然可以调动部分敌人回防江南，但是国民党军队在江北的4支主力部队，即整编第五军、第七军、整编第十一师、第四十八师要支撑国民党军队的中原防线，拱卫南京和武汉，是不可能将其调动南下的。特别是第七军和四十八师属于桂系的部队，驻在武汉的白崇禧更是不会让其脱离自己的指挥。
另外，中原地区国民党所有机械化部队的主官也是不愿到江南水网地区去作战的。所以，国民党军队可能调到南方的部队不会是其主力，只能是一些二三流部队，这使中原兵力对比的改变不可能很大。在此背景下，如果我军3个主力纵队南下却削弱了我军在中原与敌人决战的能力。
从以上因素考虑，部队南下的方案与中央要在中原地区打大歼灭战的初衷是矛盾的。如果再从另一方面来考虑，我军南下之后，是在新区转战，行程数省，部队的重武器必须全部放弃或丢失，这是不可避免的损失。同时，部队在转战中处处有敌人的围追堵截，伤员的救护与安置有很多困难，这就使得部队减员的数量不会少，很可能达到三分之一甚至二分之一（3个纵队加上部分地方干部约为10万人，减员可能会达到5万人），这也是不可避免且更为严重的损失。
单是这些减员的代价，在江北就可以歼灭敌人好几个师。而如果3个纵队不南下，和其他部队配合作战的话，在中原进行大的歼灭战，其效果会更好。此外，还有一个问题是只有粟裕等原来新四军的领导才会有体会，就是要南下的这几个纵队原来都是新四军的部队，是从苏中苏北撤到山东的，在当时的北撤中和不久前从内线到外线的转移中，都是做了大量的思想工作才使广大官兵转过弯来，现在又要过江南下进行长期的新区转战，思想转弯又得有一个过程。
粟裕经过深思熟虑之后，对中央的这一决策产生了新的想法。粟裕在回忆录中这样写道：
虽然我有以上考虑，但要不要向中央提出建议，开始我是有顾虑的。主要是担心自己看问题有局限性，对中央如此重大的战略决策提出不同看法，会不会干扰统帅部的决心。但又想，作为一个战役指挥员，在即将执行上级赋予的作战任务时，应当结合战争的全局进行思考，从全局上考虑得失利弊，把局部和全局很好地联系起来。全局是由许多局部组成的，从局部看到的问题，也许会对中央观察全局、做出决