OpenAI等讨论AI第三方评估监管提案

人工智能领域迎来疯狂的24小时，各方已经提出了大量不同提案。长话短说：唯一确凿的新进展是，OpenAI和Anthropic将嵌入来自未知机构的第三方评估机构，达里奥提出METR可能是一个合适选择。

引入第三方评估机构是明智之举，因为目前没有类似《通信规范法案》第230条那样的模型输出责任豁免，证明已履行“注意义务”在未来诉讼中会非常重要。要是没有第230条，好几家互联网公司可能已经破产了，所以限制责任真的很关键。

单凭这个新进展，对投资的影响极小，但我确实认为，对于任何想要“更长周期平稳发展”的参与者来说，多数约束都是好事：包括晶圆、电力、实际利率和息差。过度监管是另一回事，但即使过去24小时风向已经改变，我认为目前我们远没到那一步。

下面总结一下各方事件：本周末达里奥提出了最为激进的提案：嵌入第三方评估机构，对能力/训练投入超过一定阈值的模型建立国家监管框架，在民主国家之间签署广泛的国际监管协议，对中国的计算/模型蒸馏施加更严格限制，随后建立一个包含中国在内的不同国际监管框架。

在建立国家监管框架之前，他希望获得《谢尔曼反托拉斯法》豁免，让Anthropic能够放心地与OpenAI及其他前沿实验室合作，不用担心反垄断问题。

说句公道话，这份最新提案比他之前的“人工智能指数增长政策”这类提案要温和得多，当时他主张为人工智能设立类似美国联邦航空管理局的专门监管机构。我相信他的想法是真诚的。而且尽管各方有很多反对声音，从长期来看这一切也很可能对他的业务有利。

萨姆同意嵌入第三方评估机构是个好主意，并表示他们会落实这项举措。重申一下，这很明智，因为应该有助于限制未来的责任。

埃隆表示“达里奥是对的”，随后明确说明“达里奥认为应当有某种监督，这一点他是对的。由竞争对手对人工智能进行同行评审，是启动这项工作的正确方式。”这会形成一个类似美国电影协会的人工智能自律监管框架，各实验室定期召开会议，并且在每个新模型发布前，会有1-2周由竞争对手完成安全评估。

这和达里奥的提案截然不同，和大卫·萨克斯一直以来的提议一致。埃隆还表示，没有什么能减缓开源权重模型的发展。

德米斯认为达里奥的文章是“朝着正确方向迈出的一步”。达里奥也表示，他对德米斯提出的、类似美国金融业监管局的自律监管框架持开放态度，可以将其纳入自己的提案。

大卫·萨克斯发表了一篇思路清晰的帖子，他在文中称达里奥和萨姆应该单方面推进节奏，把反垄断豁免称为卡特尔申请，并且认为鉴于METR和Anthropic的关联，它并非真正独立。

前白宫人工智能顾问斯里兰姆·克里希南指出，第三方评估