马斯克提议AI对手互相审核安全问题

埃隆提出AI安全对抗性同行评审

@elonmusk：“我认为，尽快（如果不能立刻的话），明智的做法是让主要的AI竞争对手互相测试对方的模型。这样一来，各方的安全测试工具就能测试其他人的模型。因此，不再是你给自己的作业打分，至少会有竞争对手给你的作业打分，当他们发现问题时就发出警报。

如果竞争对手说某个模型不安全，而该模型随后真的出了问题，我认为这很难收场。名誉损失会非常非常大，法律责任也会极其重大。而且任何提案都必须得到中国的同意，否则我们只是在阻碍自己。”

@Jason：“埃隆，这些安全防护工具和测试装置完全可以开源，人们都可以提供贡献，大家也能看到底层细节。”

@Chamath：“这会给实验室创造巨大的激励，让它们真正投资安全领域，因为你在保护自己的同时，也能去反驳其他人的主张。”

@DavidSacks：“嗯，产品责任这一点非常关键。Lina Khan昨天其实发了一篇不错的文章，她说，我们并非没有AI的规则和监管，实际上我们是有的。产品责任法就适用。埃隆，你刚才说的是，如果公司都做这个测试、这个同行评审，然后有一家公司无视反馈发布了模型……”

埃隆：“这种情况下责任会非常大。”

Sacks：“是的。这几乎就像是有初步证据证明他们存在疏忽。”

埃隆：“在陪审团眼里这不会好看。”

Chamath：“我非常喜欢这个解决方案。比那种跨国古拉格组织的做法好多了。”

Sacks：“而且我们几周就能做成，不需要搞什么宏大的国际……我们不需要召集联合国来推动这件事。”

Chamath：“没错，这只是一个决策问题。现在就能做。”

埃隆：“监管力度你总是可以往上加，但往下减就非常难了。”

感谢我们的合作伙伴促成此事！

IREN是垂直整合的AI云平台，为AI训练和推理提供数据中心、算力和软件。Oracle连接数据、应用和基础设施，助力AI转化为业务成果——同时随着AI发展提供灵活性、选择权和控制权来实现优化。

EY帮助科技创新者实现规模增长，从初创到退出再到巨头。你打造未来，我们处理剩下的事。