OpenAI披露RSI进展称深度学习仍处萌芽期

我从今天OpenAI的公告中得到的关键要点：

- OpenAI 在创建自动化AI研究员方面“进展强劲”。

- Jakub Pachocki：“我强烈预期，（OpenAI的）进展速度可以持续到递归自我改进（RSI）阶段。”

- 自动化AI研究员将“在人类监督下工作”。OpenAI的“北极星目标”之一包括“找到让人类留在自我改进循环中的方法”。

- “自动化AI研究员也可以是自动化安全或对齐研究员。”OpenAI的“北极星目标”之一包括“用自动化AI研究员迭代解决对齐问题”。

- 是否追求快速RSI的决定，取决于能否保持人类控制，以及人们对收益和风险经过知情的民主选择。

- OpenAI“目前还不知道如何安全地一路实现对齐的、完整的RSI”。

- OpenAI认为，“我们和其他公司”都应该被要求公开追踪各自在RSI上的进展；OpenAI将继续公开其RSI进展。

- OpenAI提供的图表显示，在2026年7月左右，内部对Agents的使用量急剧增长。我猜那是来自Astra？

- Jakub Pachocki谈缩放定律：“一路上我们开发出了新算法，团队和个体研究者都展现出了创新才智。我认为这些很大程度上是缩放道路上的发现；深度学习科学仍处于萌芽阶段，有意义的算法进展往往与获取算力相关。”（我的备注：如果深度学习科学“仍处于萌芽阶段”，这对我们应该预期的RSI进展速度有重要意义。）

- Jakub Pachocki谈OpenAI对通用模型的关注：“我们相信，通过额外投入，我们可以让模型在数学研究上变得更出色，但我们不把这个方向列为优先事项，因为我们认为RSI和自动化对齐研究更为紧迫。”

- Jakub Pachocki谈AI开发节奏：“目前我认为，还没有哪个实验室解决了足够程度的对齐和监控问题，能够长期负责任地以最快速度持续缩放。我期望并希望，自愿放缓成为常态，直到确立统一的安全标准。而且我认为，对未来AI发展的国际协调需要成为世界各国政府的首要任务。”