，建立苏维埃市政府（公社），开辟一个长久的红色区域。但经过几天激战，结果共产党组织被彻底摧毁。几位全国著名的领导人牺牲，数以千计的工人遭屠戮，其中许多人手无寸铁。斯大林认为，广州起义还有另一笔损失：国民党军队在街上打死了几名俄国人并袭击了苏朕领事馆。斯大林竭力将派往中国的共产国际顾问和苏联外交官区别开来，但广州惨案表明国民党的军官并没有对他们加以区别。自此，苏联与中国国民党之间的合作，在这个孙中山和鲍罗廷曾为之牵线搭桥的城市，划上了一个蘸满鲜血的句号。
那年秋天，瞿秋白决定将共产党中央迁回上海。仍然担任党中央秘书的邓小平于9月底或10月初到了上海。和他一起去的是李维汉。李与邓早在法国时就已相识，当时李刚被提开到政治局工作。现在，邓小平转了一圈之后，又回到了阔别七年的上海。
邓小平到上海不久就被任命为中央秘书长，负责处里中央机关的文书、机要、交通、财务等工作②。在平常时期，这类工作原本就很繁琐，在当时的工作环境下就更繁重了。共产党在当时是非法组织，其党员随时都有被捕的危险。国民党的军队和警察逮捕到嫌疑犯后，会使用一切手段逼供，一个人若是叛变了，会牵连到许多人。在共产党人要积极重建党的影响的产业界，很多劳工组织都属于青帮或其他反共黑社会组织，到处都有密探。公共租界的巡捕、法国租界的警察和国民党的警察一样仇视共产主义和共产党人。他们经常主动搜捕共产党人，然后再把抓到的嫌疑犯引渡给国民党警察。
共产党的中央机关及其下属部门在上海分布很广。中央委员会的大多数部门集中在上海市中心；江苏省委机关设在闸北和虹口的工业区内；青年团的部分单位则设在法租界。周恩来当时负责中央机关的安全工作，他规定，政治局开会时，政治局委员不必全到，要有一至二人留外，以防警察局一旦突袭时不致于全体被捕。政治局会议常常在公共场所比如医院内的安全地点召开。据周恩来的传记记载，邓小平经常前往市中心威海卫路的一家医院开会。1929年8月，大约就是在邓小平离开上每去西南的同一时间，两名政治局委员被出卖后遭到逮捕和杀害。总的来讲，在邓小平做地下工作的两年之中，中共中央在上海的安全工作一直做得很出色。
在1928年或1929年年初的某一时间，邓小平结婚了。他的妻子张锡瑗是一名共产党员，曾经在江西、福建交界的山区某个小根据地任过职。邓小平是什么时候、怎么为她相识的不得而知，很有可能是在她奉命到上海送信时两人相遇的。
不管邓小平和张锡瑗是在什么情形之下结婚的，他们的婚姻只持续了很短的一段时间便悲剧性地结束了。张锡援死于难产。关于她去世的时间有不同的说法，但有一点是一致的，即当时邓小平不在上海。有关他在1928年和1929年间活动的记录很少。但作为中央的一名重要官员，他不可能经常离开上海。因此，合理的结论是，张锡援去世时，邓小平已离开了上海、凋任新的工作了。邓小平对自己的私生活一直保持沉默，他从不对外人谈他的感情，在他的官方传记里甚至没有提及到这次婚姻。
对共产党人来说，1928年主要的政治事件是召开了第六届党代表大会。由于在中国境内没有一个安全的地方允许几十名中共代表集中在一起，该次会议选在莫斯科郊外的一所旧式庄园举行。中国共产党的大多数政治局委员参加了这次会议。但李维汉留在上海没有参加，邓小平也和他一起留在上海。大会上布哈林作为共产国际常务委员会的主席出尽风头。布哈林曾与斯大林一起批判托洛斯基的对华政策，但不久就因其quot;右倾quot;，和quot;富农路线quot;受到攻击。他性情怪异，有时身穿猎装出现在主席台上，甚至手腕上还站着一只猎鹰。在他的主持下，大会通过的决议与2月份共产国际会议的决议口径一致。
经过整个6月份的争论，大会总结认为，中国革命尚处于quot;资产阶级民主革命quot;阶段（不属于社会主义革命），全国的形势处于两次quot;革命高潮quot;之间。大会谴责了quot;机会主义quot;（即所谓陈独秀执行的路线。陈未到会），但同时也谴责了quot;盲动主义quot;（即由瞿秋白下令发动的那种盲目的军事行动）。大会通过了十大纲领，其中的三大任务是推翻quot;国民党军阀政府quot;，没收地主阶级的一切土地，quot;联合世界无产阶级和苏联quot;。十六年以后，当毛泽东自己(此处有误。毛泽东是在1939年和1940年对中国革命的性质做出完整的总结的。--译注)总结出一口整套关于中国革命性质的理论时，肯定了这一纲领的正确性，但应该强调革命的持久性和quot;农村根据地的重要性quot;。
1929年中，邓小平的工作出现了新的转变。政治局免去了他中央委员会秘书长的职务，派他到广西执行一项特殊的任务：一，与广西省政府主席和绥靖公署主任联络。他们虽然都是蒋