别把AI公司叫实验室，该按产品算责任

改变 AI 安全辩论最简单的方法，就是不要再把这些公司叫成“实验室”了。

@chamath 的观点是，OpenAI、Anthropic 和其他前沿开发者不是开展无害实验的小型研究团队。它们是筹集了巨额资本、争夺客户、推出产品、追求更高估值的商业公司。

OpenAI 现在是一家带有传统股权的公益公司，微软持有约 27% 的股份，员工和其他投资者持有另外 47%。一旦这些组织向数百万用户发布产品，它们就应该和汽车制造商、制药公司，以及其他任何可能造成危害的行业一样，承担同等责任。

“实验室”这个词很关键，因为它把错误包装成了实验，而非产品故障。如果一个 AI 系统给出危险建议、歧视申请者、泄露隐私信息，或是完成未授权操作，其背后的公司不应该躲在模型不可预测性的背后。

法庭已经开始往这个方向走了。一名联邦法官允许针对 CharacterAI 的产品责任索赔继续进行，将其聊天机器人视为产品；另一起案件中，允许针对 Workday 的歧视索赔，因为其 AI 筛选软件据称充当了雇主的代理人。

AI 相关诉讼也在加速，仅 2026 年第二季度就提起了 42 起新的 AI 相关诉讼。产品责任、消费者保护、生物识别隐私和有缺陷的安全系统正在成为主要的法律风险领域。

这种压力相比自愿承诺，能创造更强的安全激励，因为责任会改变发布未完成产品的经济逻辑。如果公司知道它们可能要对可预防的危害承担经济责任，它们就会有直接的动力在发布前投资于测试、监控、访问控制、审计日志和更强大的安全保障。

Meta 对 Muse 的处理就是这种方法的例子。扎克伯格称，Meta 在数月前就有了一个可用版本，但推迟发布以加强隐私和安全，包括隔离虚拟机、权限控制，以及一个在动作连入互联网前对其进行审核的独立系统。

Chamath 的论点不是说 AI 公司应该停止开发强大模型，而是说公司应该为它们选择发布的产品承担责任。