之外，1950年代的大部分大型公司都采用“参谋与一线”的组织模式，小汤姆·沃森也要这样做。还有很多其他的管理措施，不过，他绝对没有想到，在后来几十年的专业化管理发展中，IBM固然成为管理典范，但有时候也被善意地称为“除了美国政府以外最大的官僚机构”。
1961年，IBM的规模是1956年沃森去世时的两倍半，股票价值增加了5倍，在全美国6000台使用中的大型计算机中有4000台是IBM生产的。另一方面，公司似乎到了平台期，与电子计算机业的蓬勃发展相反，公司的增长放缓。并且公司提供的多种不同型号的计算机正成为问题，它们互不兼容，内部结构不同，软件不同，外围设备也不同。在1961年底，小汤姆·沃森批准了一个名为“S360”的全新系列计算机计划，它将淘汰公司过去卖得好或者不好的各种型号的计算机。这个项目每年的研发成本是10亿美元，总成本超过50亿美元，是有史以来最大的企业研发项目，与美国政府的曼哈顿成本相当。与沃森所进行的几次把公司全部压上的赌博相比，这一次有过之而无不及，过程同样凶险。如果不进行S360项目，IBM可能逐渐变成一家平常的公司。正如郭士纳所说的，“没有系统360前，IBM只是众多生产和销售电脑的普通公司之一。”而如果失败，肯定没有了现在的IBM。S360电脑获得了巨大成功，它取得了压倒性优势，公司再次以近30％的速度增长，只有新创公司才可能有这样的增长速度。1965年，IBM成为美国10家大工业企业之一，两年后，公司市值超过了通用汽车。
S360的极度成功不可避免地再次招来政府的反垄断诉讼，陷入了长达十年的讼争。这一次它彻底地改变了IBM做生意的方式，小汤姆·沃森不得不主动放弃自IBM创立以来就实行的捆绑式交易，单独为产品和服务定价。尽管沃森相当不情愿，但多年后郭士纳主要是在这里找到IBM的未来。这一次反垄断诉讼中，IBM的主要对手是当时声名显赫的、现在大部分人根本不知道的控制数据公司（CDC）和他的传奇创始人威廉·诺里斯。在商业史上，我们其实只记住了那些留下来的企业。直到1981年这一诉讼变得毫无意义时才被中止，在这个过程中，IBM“从积极进取和骄傲的竞争者变成了谨慎的庞然大物”，从1972年开始，公司制定的每项决定都要经过反垄断法的过滤。
小汤姆·沃森自己最终以一种极其偶然的方式退出IBM舞台，1970年他突然心脏病发作，病愈后他立刻宣布辞职，而不是等到按照原先规划的3年之后他60岁的时候。
新近的历史
在1980年代开始的时候，计算机行业开始迎来一些小不点竞争者，IBM最终也决定进入个人电脑市场（PC），大获成功，然后持续地失误，几乎可以说是IBM在这一市场的失误造就了微软、英特尔以及已经消失的康柏等公司。郭士纳在自传中承认，在近15年的时间中IBM几乎没有能从个人电脑业务中赚到一分钱，在技术创新等方面投入巨额资金，IBMPC也获得无数荣誉，但几乎多卖一台个人电脑就要多赔些钱。他说惟一重要的原因是微软和英特尔控制了关键的硬件和软件，因而也控制了个人电脑的价格。
IBMPC的历史广为人知，埃思里奇在公司当时的CEO不断的“我的苹果电脑在哪里？”的询问中脱颖而出，他领导的小组最终设计出了一款基于英特尔的CPU、微软的操作系统和从外部大量采购配件的个人电脑。被命名为IBMPC的个人电脑使得个人电脑成为一种广为接受的产品，以卓别林式的流浪汉为主角的广告消除了计算机的神秘感，它的销售之快创造了历史记录。不过，尽管在销售上很成功，利润上则是另外一回事，1984年PC业务占总收入的20％，但总利润的75％却依然来自大型计算机。个人电脑为IBM在大众心中赢得了“青春”的感觉，它不再像其他大型机公司那样老朽，但它把IBM带入了竞争激烈、利润低下的市场。大量的IBMPC兼容机公司不断涌现，他们的佼佼者是康柏公司，兼容机很快侵蚀了IBMPC所开创的市场。IBM推出一款基于7年前的286芯片的个人电脑，运行需要耗费大量内存的全新的OS／2操作系统，可惜的是，当时在康柏的推动下市场已经接受更快的386芯片，全球市场正处于内存芯片短缺之中，并且在推出这一产品时IBM放弃了依然挣钱的PCAt计算机。IBM想重新定义个人电脑市场，却未能成功。
关于IBMPC的最关键的问题就是：如果没有进入个人电脑行业，IBM能不能顺利度过1980年代？大多数与它在大型机、小型机上竞争的对于都因为没有意识到个人电脑的威力而消失了。但另一方面，如果在大型机之后的时代，IBM抓住任何一个它的实验室研发出来的、却被对手应用的技术，它大概也会完全不同，那些技术成就了至少这些公司：Oracle、Sun微系统公司、Seagate、EMC、思科等等。
在1990年代