党内的慎重派大部分支持恢复日中和平友好条约谈判。７月２１日，日中和平友好条约事务级谈判在中国北京重新开始。８月８日，福田派园田直外相访华。
在接见日本友人时，邓小平还提出了“双方均不干涉内政”的问题，进一步鼓励园田外相赴华访问，以完成缔约的最后准备工作。
邓小平对园田说：“中日建交稍晚了一些，但建交后的两国关系发展不算慢。条约谈判的步伐本来还可以快些，已经耽误了一些时间，现在要把时间赶回来。条约的中心内容实际上就是反霸。反霸不针对第三国，但谁搞霸权就反对谁。苏联反对这一条，正是暴露了他自己。在当今国际形势下，我们需要日本帮助，日本也需要中国的某些帮助。中日之间不是没有任何问题。例如钓鱼岛问题、大陆架问题。这样的问题，现在不要牵进去，可以摆在一边，以后从容讨论。”
在邓小平“求大同，存小异，寻求更多共同点，寻求更多的相互合作、帮助和配合的途径”的灵活的外交方针指导下，经过会谈，双方就和平友好条约取得一致，促使了《中日和平友好条约》于１９７８年８月１２日在北京签订。
１９７８年８月１２日下午７时许，中日和平友好条约签字仪式在北京人民大会堂安徽厅举行。大厅正面竖立着一架巨大的屏风，上面的图案画的是安徽省佛子岭水库的拦洪大坝。屏风前面摆着覆盖有绿色桌布的长方形条桌。桌子中央插着中日两国国旗。中华人民共和国外交部部长黄华和日本外相园田直分别在桌子的两侧就座，在两份分别用日文和中文书写的条约文本上签字后互相交换条约文本。邓小平出席了这个签字仪式。
当时福田首相在官邸的电视机前收看了签字仪式的情景。据说，他坐的那把椅子，正是６年前的１９７２年２月２１日佐藤首相怀着酸溜溜的心情观看尼克松访华场面时坐的那把椅子。时过境迁，物在人易。此时的福田又是什么样的一种心境呢？看完签字仪式后，福田站起身来对记者感叹地说：“木桥变成了铁桥，今后运东西方便多了。”
而对《中日和平友好条约》的签订，日本舆论的反应也非常积极。《产经新闻》认为：“福田首相和政府有关当局在谈判中全力以赴、顽强拼博。对此，应给予高度评价。”
而此时距第一次谈判的１９７５年，已经整整过去了４年。