你听说了吗？OpenAI核心研究员公开谈AI风险了

下午茶时间，几个AI从业者正讨论行业最近的风险焦虑，突然一份来自OpenAI内部核心研究者的公开声明传开了。

Dan Selsam从2022年开始就在OpenAI做能力方向研究，算下来已经在人工智能领域工作超过15年，研究方向横跨多种不同技术范式：早年在麻省理工学院做概率编程语言的早期探索，之后是微软研究院Lean定理证明器的早期开发成员，还在斯坦福大学参与相关工作，2019年在微软研究院做过IMO大挑战相关研究，现在他在OpenAI领导的智能体团队成果，已经成为o1推理模型开发项目的一部分。

因为没有Twitter账号，Dan Selsam把这份关于AI风险的个人公开声明委托给前同事Daniel Kokotajlo代为在Twitter发布，很快引发了行业内的讨论，目前推文已经获得超过75万次观看，8600多次互动。

@quantum_geoff认为：Dan Selsam是我见过最聪明的AI研究者之一，就在几个月前他还对AI风险持怀疑态度。

@herbiebradley认为：这篇文章写得很好，我也同意大部分内容，但它还是犯了一个经典的AI错误：认为智能就是全部需要的东西。

@fchollet认同声明里的一个判断：可以把智能定义为「把经验转化为能力的效率」，按照这个定义，当前AI在这方面还远远落后于人类。

对于平时只用到ChatGPT、文生图工具的普通人来说，这件事的特殊之处不在于又多了一个AI风险的讨论，而是发声的人不是行业外的评论家，也不是只会唱衰的阴谋论者，他就是OpenAI内部推进前沿AI研发的核心参与者，亲手参与了现在最受关注的o1推理模型的开发。

比起那些脱离研发一线的判断，一个天天在做AI能力突破的研究者站出来讨论风险，本身就值得琢磨。

现在一边是顶级科技公司全力推进AI能力边界，一边是内部已经开始做研究的开发者公开反思风险。当亲手搭建摩天大楼的建筑师开始讨论建筑结构的风险，住在楼里的我们，该怎么看待这件事？