AI承保公司获5500万美元 做AI风险审计保险

人工智能核保公司筹集了5500万美元，用于对前沿人工智能模型进行审计和投保。

保险提供公众能够信任和理解的审计。机制很简单：保险公司需要审计来给风险定价。他们会选择自己认为能最准确地对风险定价的审计机构。随后保险公司会将审计结果转化为价格信号，从而击穿政治争论。

保险公司与公众利益一致：如果他们审计错了，就会破产。这和当下的情况不同，如今都是AI实验室自己选审计机构，引发公众不信任。

只有扩大审计规模，保险才能起效，而我们正在为此构建基础设施。

现在数以百万计的智能体已经被部署，它们留下了太字节级的痕迹，会在数十种风险类别中产生数千起事件。要扩大审计规模，我们需要可靠的智能体来收集证据痕迹，供人工审核。

历史给了我们指引。以汽车为例：汽车保险公司资助碰撞测试来给风险定价，碰撞测试最终让我们有了安全气囊，降低了风险。

再以电力为例：家庭财产保险公司资助灯泡测试来给火灾风险定价，如今每个灯泡都带有安全标识。核安全也是类似的运作逻辑。

我们一直在边做边学。过去6个月里，我们已经对Cursor、ElevenLabs、Lovable和Harvey等前沿智能体开发商完成了审计和投保。

为了让ElevenLabs拿到全球首份智能体保险，伦敦劳合社的一家保险公司要求由保险公司选择的审计机构每季度做一次技术审计。我们已经构建了对任何智能体进行季度技术审计的基础设施，与Gray Swan（技术评估）和Schellman（审计）等公司展开合作。

未来几周内，我们将分享保险生态系统如何为前沿AI服务的愿景，并开源全球首个针对前沿AI巨灾风险的精算模型。

我们在旧金山招聘各个岗位的人才。来和我们一起开创你人生的事业吧。

Rune & Rajiv