Dario回应AI监管争议，路线分歧浮出水面

哈哈哈哈，Dario 本人居然下场回应 Baker 了。而且我觉得他回应特别有价值，因为他没有只澄清「Anthropic 想成为世界唯一公司」这个传闻，而是几乎把自己整套 AI 治理哲学讲明白了。Dario 的核心反驳是： 「监管 = 监管俘获 = 权力集中」是一个错误的简化。

他认为好的制度恰恰可以限制大公司的权力。Anthropic 支持的很多政策，也确实故意豁免小公司，只针对最前沿模型，甚至会主动让追赶者和开源模型获得更多空间。这一点我承认比「Anthropic 想靠监管干死竞争对手」复杂得多。

但我看完之后，反而更确定自己为什么反对 Dario 这条路线。因为他整个论证依赖一个非常强的前提： 我们能够设计出一套足够中立、足够专业、足够公正的制度，去约束最强的 AI 公司。问题是，谁来定义这套制度？

谁定义什么叫 Frontier Model？什么叫危险能力？谁来设计 Eval？

谁告诉政府哪些风险值得管？最后拥有最多专业知识、最多数据、最多 Policy 团队、最有能力参与规则制定的人，依然是 Anthropic、OpenAI、Google 这些前沿实验室。监管被俘获最危险的版本，从来不需要哪个公司偷偷贿赂政府。

它完全可能发生在所有人都善意的情况下： 政府确实想把事情管好，但全世界最懂这个问题的人，刚好都来自被监管的那几家公司。于是整个监管体系开始使用他们的语言、他们的评测方式、他们对风险的定义。最有意思的是，Dario 自己在回应里也承认： AI 从结构上就是一种天然趋向权力集中的技术。

Scaling Law、算力、芯片、资本，本身就在把能力推向极少数玩家。那我反而会得出和他不同的结论： 既然技术本身已经这么容易集中，我们是不是更应该把「减少进一步的权力集中」放在第一优先级？而不是再建立一套 Frontier Regime。

一个团队可以做 AI、可以追赶 Frontier AI进度。但是当你终于追到最前沿以后，欢迎进入我们已经运行很多年的监管体系。这套制度当然可能非常公平。

但它也天然会让已经位于 Frontier 的公司，成为最熟悉规则、最有能力承担合规成本、也最有能力影响规则的人。所以 Baker、Jensen 和 Zuckerberg 真正担心的东西，Dario 这次其实没有���全回答。Jensen 当初那句评价Dario的话现在看还是很狠： 「别在暗房里搞，然后告诉我它是安全的。

」 当然我其实挺喜欢 Dario 的一句话。他说，不要靠营销告诉大家 AI 能治癌症。这一点完全正确。

他讲到自己父亲死于丙肝，而几年后才出现可以治愈绝大多数患者的药物，也能理解为什么他对 AI 加速生物医学这件事这么执着。但我不认同他把今天公众对 AI 的反感主要归结为一个几十年来积累的「信任危机」。你是一家全球最重要 AI 公司的 CEO。

你不断告诉政府和公众，AI 可能带来灾难、大规模失业、生物风险、网络风险。这些话当然有必要说，但它们也一定会产生政治后果。不能一边喊「这栋楼可能爆炸」，等居民开始反对在旁边建新楼之后，又说：他们主要是本来就不信任房地产商。

所以看完 Dario 的回应之后，我反而觉得这场争论终于变得很清楚了。双方其实都同意： AI 会非常强大、AI 可能非常危险、AI 也可能造成史无前例的权力集中。真正的分歧只有一个： Dario 相信，可以通过好的制度去约束集中起来的权力。

Baker、Jensen、Zuckerberg 更担心，权力一旦集中，本身就是最大的风险之一。我站后者。我并不觉得 Dario 是坏人。

甚至恰恰因为他很可能是善意的，这个问题才更值得讨论。因为制度最不应该依赖的假设就是： 只要掌握巨大权力的人足够聪明、足够理性、足够善意，一切就会没事。人类试过很多次了。

从过往结果来看实在是不值得我们在 AGI 上再试一次。....