OpenAI和Anthropic前研究员辞职，直指AI发展拿生命冒险

日常刷AI生成的文案、用AI助手整理文档的普通人，很少会想到手里的AI工具，背后藏着关乎全人类未来的争议。

今天，一位曾在Anthropic做预训练研究的研究员宣布辞职。这位名叫@hilbertspaess的研究员，过去三年先后在OpenAI和Anthropic从事预训练研究，对两家公司的研发路径非常熟悉。

@hilbertspaess认为：两家公司都没有采取负责任的行动，都在径直朝着自我改进的超级AI（超级智能：比人类更聪明、能自主优化自身能力的AI系统）竞速研发，是在拿全人类的生命赌博。

这条推文发出后迅速发酵，累计获得超过1.3亿次浏览，68.4万次点赞，24.6万次收藏，总互动量超过111万。很快就有其他AI从业者站出来附和，一位OpenAI在职员工以个人身份转发表示，认同应该放慢AI研发速度；一位2018到2022年在Google DeepMind沟通政策团队工作的前员工也透露，刚加入DeepMind时，公司不允许任何人对外讨论AI可能导致人类灭绝的风险。

这并不是AI行业第一次出现内部人发声反对快速发展。此前OpenAI就出现过高管离职潮，联合创始人Ilya Sutskever离职后创办了Safe Superintelligence，专注于安全的超级智能研究。根据2024年的一项匿名调查，包括DeepMind、Meta和Anthropic在内的多个头部AI实验室，都有不少雇员对雇主的AI发展方式表达了担忧。而这些公开表达伦理担忧的AI举报人，往往会面临失业的后果。

现在越来越多AI从业者站出来公开质疑，意味着行业内部对AI安全的分歧已经无法被掩盖。这些发声的人不是反对AI研究，他们反对的是不计后果的竞速，是不把全人类的共同安全放在企业盈利之前。

当资本推着AI技术往前跑的时候，内部人的辞职和发声，能不能让踩油门的人多停几秒钟想想？