Anthropic发布Autonomous Alignment Researcher研究

可递归自我改进的人工超级智能已经存在了，只是分布并不均匀。

Anthropic 公布了由 Claude Opus 4.8 驱动的“自主对齐研究员”相关研究：
> 在7/7项实验中击败了人类AI研究员，API推理成本仅为每小时4美元，而人类研究员成本为每小时150美元
> 以人类专家给出方向启动的运行，表现并不比由 Opus 4.8 自行选择方向更好

OpenAI 有自己的递归自我改进（RSI）计划。去年 OpenAI 宣布计划在2026年9月前训练出一个“自主AI研究实习生”。

OpenAI DevDay 定在9月29日。有传闻称这个“自主AI研究实习生”会在大会上亮相，它基于 OpenAI 即将推出的模型 Astra 开发。

说到 Astra，根据 @alexeheath 的报道，Sam Altman 称它是“第一个真的能以有实际意义的方式发明新事物的模型”。

爆料称 Astra 最早可能在本周就面向公众开放使用，它是AI能力的又一次阶跃提升。

一旦我们拥有可靠的递归自我改进和自主AI研究，我们就进入了快速起飞阶段。

我打赌奇点会在2027年底左右达到峰值。人类的存在将被永久改变，以我们无法预测的方式。

社会没有做好准备，也不可能做好准备。但这件事无论如何都会发生。这种感觉，就和我第一次当爸爸时的感受一模一样，只不过放大了一万亿倍。