AI安全旗手公司核心研究员离职，炮轰行业拿人命冒险

周末刷社交网站，不少人刷到了一条点赞超70万的辞职推文。

Anthropic的前预训练研究员Jacob Coxon宣布辞职，在推文中直接批评了老东家Anthropic，以及行业巨头OpenAI两家公司。

事情的戏剧性在于，Anthropic本身就是带着「更负责任的AI」标签诞生的。2021年，创始人Dario Amodei因为不满OpenAI过于追逐利润，不够重视安全，从OpenAI离职创办了Anthropic。成立以来，Anthropic一直对外宣称自己是更负责任、更注重AI安全的头部AI公司。

Jacob Coxon曾同时在OpenAI和Anthropic做过3年预训练研究，他在推文中明确表示：两家公司都没有采取负责任的行动。

@hilbertspaess 认为：这些公司正在直奔自我改进的超级智能，拿全人类的生命赌博。他还声称AI可能在未来10年内对人类造成灭绝性威胁。

这条推文发出后迅速扩散，目前总互动量超过116万，观看量突破1.4亿，引发了行业内外对AI安全的新一轮讨论。

不止Jacob一人，前谷歌DeepMind沟通政策团队成员也转发呼应，国会众议员也加入批评，认为不受约束的逐利AI开发，已经对经济和民主形成威胁。当然也有不同声音，有网友反驳说，硅谷连基本的工程管理都做不好，根本不可能造出能灭绝人类的AI。

已经公开的信息显示，OpenAI确实提出了围绕自动化AI研究人员和持续迭代的愿景，目前行业内多家头部机构都在开展自我改进型AI（AI可以不断升级自己的能力）的研究。

对于普通使用者来说，我们每天都在享受AI带来的便利：自动生成文案、帮忙整理资料、甚至辅助生成代码。但很少有人会去想，推动这些便利的巨头们，在技术路线上走得有多快，有没有给安全留够刹车的空间。

当标榜「最负责任」的公司，都被自己的核心研究员指责不负责任，谁来给AI的狂奔拉缰绳？