顶级AI研究员接连辞职，谁在拿人类未来赌赛道

早上刷AI新闻的人，最近总能看到研究员离职的消息。这次发声的是一位有20年AI风险研究经验的研究员，刚从顶级AI公司Anthropic辞职。

过去三年，这位研究员先后在OpenAI和Anthropic从事AI预训练（就是让大模型学习通用知识的核心步骤）研究。他辞职后直接公开批评：两家头部AI公司都没有对AI发展负责任。

不止这一位研究员。近期包括OpenAI和Anthropic在内，多家顶级AI实验室都出现了高级研究人员离职的情况，AI安全领域正在发生变动。一周内Google DeepMind就损失了两名高级别研究人员，还有两名Google的领先人工智能研究员计划转去竞争对手Anthropic。AI行业的人才竞争，随着通用人工智能（接近人类综合能力的AI）临近而不断激化。

@hilbertspaess 认为：两家公司都在争相发展自我改进的超级人工智能，拿人类的生命冒险。

行业内部的矛盾已经摆到台面上：一边是激烈的市场竞争要求AI快速迭代升级，另一边是越来越强大、越来越融入日常生活的AI系统，需要设置强有力的安全防护。这位辞职的研究员明确提出，目前AI已经接近引发灾难。

有专家指出，大规模AI风险需要更强的管控，AI开发者自愿的安全约束不够，需要明确的规则和强制执行，部分跨国家的AI风险还需要国际协调和行业结构改革。2023年的民调显示，82%的美国选民认为，无法信任科技公司高管来进行AI行业的自我监管。

现在头部AI公司都在抢跑，核心研究员却接连站出来反对。内部的分歧已经公开，接下来是公司会调整发展节奏，还是会有更多研究员选择离开？