AI Pulse
📡 X 信号

OpenAI 自己的内部数据,没撑住「超级智能临近」的说法

OpenAI 自己的内部数据,没撑住「超级智能临近」的说法

OpenAI 那篇关于研究加速的博客文章,读起来并不像是我们已经站在人工超级智能(ASI)门槛上时该有的样子——所谓人工超级智能,是指在几乎所有任务上都比几乎所有人类认知能力更强的模型。

智能体的工作日时长增长得非常不稳定,集群规模也没有大幅增长,而且在 token 上的支出实际上并没有超过在人类员工身上的支出*,尽管增长率是明确的。每位实验者的研究实验数量也没有加速增长,OpenAI 内部模型的 ECI 分数也没有加速增长。

或许最重要(也最令人惊讶)的是,时长小于 15 分钟的任务的成功率根本没有太大增长,而且智能体在不同时间跨度内完成的任务占比普遍较低,且在大多数情况下没有增长。

有可能 Anthropic 在自动化 AI 研发方面比 OpenAI 走得远得多,而 METR 在他们的调查中看到了这一点。也有可能我们什么都看不到,直到能力出现惊人的加速,就像我们在数学领域看到的那样。我们当然不能排除智能爆炸的可能性。

但是,在整个 AI 领域,尤其是在 AI 安全领域,出现了一场巨大的信念级联,而根据我们今天掌握的证据,这种信念级联似乎在很大程度上是没有根据的。

我们完全有可能在不久的将来无法完全自动化所有 AI 研发任务,或者完全自动化 AI 研发并不能大幅加速 AI 能力的进步,或者能力提升集中在容易验证的任务上,而无法推广到混乱的现实世界。这些都是有待研究的开放性问题。

本文由 AI 翻译自英文原帖,技术名词保留英文。

查看 X 原帖

订阅 AI Pulse

每天 08:00 · 12:30 · 18:30 · 23:50 更新