首个超级智能可能先出现在AI实验室而非单个模型

⚡️首个超级智能可能先以组织形式出现，再以单个模型形式出现。这就是这张图背后隐藏的可能性。

所有人都在等待单个AI模型变得比所有人类都更聪明。但想象一下，Anthropic变成一个由数千智能体组成的协同智能，每个智能体都在做实验、写代码、验证假设、分享发现，并且改进协调它们的系统。不需要任何单个智能体拥有超人类智能。这个集体系统可以变得比它内部的任何个体智能都强大得多。

接下来就是关键转变。普通公司通过雇佣更多研究员来扩大研究规模。AI实验室最终可以通过复制软件来扩大研究人员规模。一万名研究员变成十万名。这些研究员会改进他们自己的工具。更好的工具能提升实验的数量和质量。成功的发现会让后续研究更便宜。一个机构的发现能力第一次可以通过自身的发现实现增长。

想想这意味着什么。周一，一家公司的研究能力还是某个水平，到周五就能得到更好的研究系统，不需要训练新的前沿模型。改进会成为这个机制的一部分。而这个机制会持续运行。

这会创造出比一个超级智能聊天bot重要得多的东西：一个拥有潜在自我加速智力劳动力的科研机构。

结论就是这样。智能爆炸可能开始时，没有人宣布AGI已经到来。它可能起源于这样一个实验室：这个实验室逐渐不再需要额外的人类研究员来提高发现速度。一开始，人类指导实验。然后人类监督实验。最终，人类发现这个机构提升自身研究能力的速度，已经超过了人类员工能做到的水平。

人类一直在等待的事件，可能是AI变得比科学家更聪明的那一刻。而改变历史的事件，可能是某个AI实验室提升速度超过任何人类机构跟进能力的那一刻。