硅谷投资人掀AI领域核心路线之争

这可能是未来几年 AI 世界最重要的一场路线之争。硅谷知名投资人 @GavinSBaker 刚刚又发了一条很长的回应，回应了 Anthropic 员工 @_sholtodouglas 事情的起点，是此前 Baker 在播客中关于 Dario 和 Anthropic 内部愿景的争议。Sholto 对部分事实进行了澄清后，Baker 也接受了澄清。

但他说，硅谷有很多非常严肃的人，都听过类似说法的不同版本，而且觉得它可信。为什么？因为这种叙事与 Dario 长期公开表达的世界观非常一致： AI 可能带来巨大风险同时可能造成极端经济权力集中，因此前沿 AI 需要非常谨慎的监管。

但Baker 并不认为 Dario 有恶意。恰恰相反，他明确说自己相信 Dario 是善意的，也认同 AI 确实可能非常危险。真正的分歧在下一步。

如果你认为 AI 可能危险，大概存在两条路线： 一条是 集中。严格限制最强模型，把前沿 AI 控制在少数经过批准的公司和政府手中，通过监管降低扩散风险。另一条是 分发。

让模型、算力和 AI 能力尽可能广泛地存在，让大量公司、国家和个人共同拥有这些能力，通过彼此制衡避免任何单一主体获得压倒性权力。Baker 显然选择了第二条。他引用 Zuckerberg 之前表达的的观点，大意是： 如果 AI 真的如此危险，那么认为唯一安全的方法是把巨大权力集中到极少数人手中，这件事本身就非常可疑。

因为人类历史已经反复证明过： 指望掌握绝对权力的人永远保持开明和善意，并不是一个特别可靠的安全机制。这也是我觉得这场争论真正重要的地方。很多关于 AI Safety 的讨论表面是在讨论模型会不会失控、欺骗人类、拥有危险能力？

但再往下一层，其实还有一个同样重要的问题： 负责控制这些模型的人，应该拥有多大的权力？假设未来世界最先进的智能只掌握在三家公司手里，甚至最终只��一家公司。即使模型本身完全对齐，我们依然制造出了一个新的风险：极端集中的人类权力。

Baker 因此更倾向于一种传统的人类社会解决方案： 不要寻找一个永远正确的统治者。建立多个权力中心，让它们互相制衡。这其实也是 AI 开源争论背后经常被忽略的一层。

开源不只是「便宜一点」「方便开发者」。它还是一种权力分配机制。Baker 甚至认为，Dario 过去几年持续强调 AI 的灾难性风险，在现实里正在产生一个意料之外的副作用： 这些观点正在被美国反数据中心、反 AI 的人使用。

也就是说，一个原本希望通过警告风险推动更安全 AI 的人，最后可能反过来帮助形成限制 AI 建设的政治力量。而 Baker 认为 AI 有机会治愈大量疾病、延长人类寿命，并最终把社会推向接近《星际迷航》那种高度富足的世界。所以他的判断是： Dario 现在继续把主要公共叙事建立在「AI 有多危险」上，可能已经开始降低这个未来出现的概率。

这里最有意思的是，Baker 并不讨厌 Anthropic。恰恰相反。他专门强调Anthropic 拥有非常深的竞争优势，也是一家非常优秀的公司。

他真正担心的是 Dario 的政治路线。甚至几个月前，他认为 Anthropic 最大的风险之一，就是 Dario 自己持续强调 AI 极端风险，最终把 Anthropic 推向被政府高度控制甚至国有化。所以这场争论其实已经远远超过 Anthropic。

它最终讨论的是一个非常基本的问题： 如果 AGI 真的成为人类历史上最重要的生产资料， 我们到底应该相信： 少数足够聪明、足够善意的人集中控制它，会更加安全； 还是相信： 任何人都不应该拥有如此巨大的权力，因此必须让智能尽可能分散。我现在越来越倾向后者。AI 可以危险。

但历史告诉我们的另一件事情是： 权力本身，同样危险。