OpenAI公开AI自我改进数据,呼吁行业放慢节奏
有人在AI前沿实验室工作,刚结束今天的模型训练,刷推特就看到OpenAI研究员kliu128发了一条消息,引发了上万次互动。
这条推文中提到的核心概念是递归自我改进(RSI),简单来说就是AI系统自己提升能力、加速自己发展。过去这只是AI安全讨论里的理论话题,到2025和2026年,已经变成前沿AI实验室里实际能观察到的现象了。
OpenAI这次发布了相关数据推进模型研究,同时呼吁其他AI企业也公开相关数据。他们认为递归自我改进可能是未来几年提升AI能力最重要的因素,但目前这项研究只在少数顶尖实验室内部开展。
@kliu128 认为:现在公开透明比以往任何时候都更紧迫,这样才能让公众参与讨论,我们是否应该以及该如何调整AI模型开发的节奏,并且呼吁其他AI公司也这么做。
@chiefofautism 转发了另一位研究者的观点,并不认可「RSI只存在于少数前沿实验室」的说法,提到具体的RSI算法其实已经存在了近40年。
@cherylwoooo 认为,这次公开数据是RSI领域更透明报道的第一步,但要完全理解RSI,还需要更多后续数据。
现在美国主要前沿AI实验室已经开始把大部分研发和工程工作自动化,这个进程在2026年还在持续加速。不过目前AI的创造力还不足以实现完全的递归自我改进,它在生成、实现、判断创意方面仅能达到尚可的水平,关键环节能用但效果不算出色,AI科学家目前还比不上顶尖人类科学家,因此完整实现RSI可能不会那么快。
今年7月就有媒体报道,AI行业已经在呼吁调整AI开发节奏,甚至有猜测称OpenAI已经暂停了部分AI开发工作。
当AI开始自己优化自己,公开讨论带来的不只是安全思考,也让更多人能参与进来,而不是只由少数实验室决定发展节奏。你觉得,把这件事拿到台面上讨论,会让AI发展得更快还是更稳?