OpenAI 数据显示 AI 已能独立完成近半人类数小时的研究任务
我们目前已经处于递归式自我改进(RSI)的早中期阶段,也就是自主失控的 AI 研究加速阶段:当前的 AI 正在加速未来 AI 模型的训练与改进。这极其危险,我完全不相信这些 AI 公司能安全、负责任地处理这些风险。
几乎所有人都不相信,包括国会、萨克拉门托、普通美国人,甚至 AI 公司自己的研究人员和管理层。然而,除了极少数人之外,所有人都只是环顾四周寻找社交暗示,希望有人能迫使 AI 实验室停下来。
像 Anthropic 这样的 AI 公司非常清楚这种风险。他们多年来一直在谈论这些危险。然而,他们认为自己“身处竞赛之中”:不把研究交给 AI、不利用 AI 进一步开发 AI,就意味着他们会落后于其他 AI 公司,而他们各自认为这些公司在不同程度上更加危险、鲁莽且追求权力。这简直是疯了。这场疯狂的竞赛必须结束。我也会参加抗议活动。
这是一个相当好的洞察,让我们了解到我们离 RSI 有多近,看看 OpenAI 的这些新数据:
- 智能体现在可以独立完成 46% 的研究任务,这些任务人类需要 2 到 4 小时,且无需任何人类帮助。在三月份,这一比例为 23%。
- OpenAI 研究人员平均每天使用价值 2400 美元的智能体(按 API 价格计算)。前 10% 的人则达到 23000 美元。
而对于 GPT-6.2 Astra,一位预训练研究人员称赞 Codex 在他们共同探讨一个想法时发现了核心见解。相当令人印象深刻。
今天,我们将发布关于 OpenAI 各研究部门如何使用智能体的新数据。我们将探讨不断增长的使用量、智能体在不同任务中的成功率,以及投入到安全与对齐方面的日益增长的人力。随着 AI 能力的提升,智能体在工作场所、日常生活以及各个科学领域(包括 AI 研究本身)正变得越来越有用。实验室、政策制定者和公众应密切关注研究加速的速度和方向,以便我们在让人类牢牢掌控 AI 发展的同时,实现智能体智能的益处。就像我们在九月份发布的第一份报告一样,我们在分享结果的同时也公开了我们的方法,并希望为整个行业树立透明度的新标杆!
今天,我们将发布关于 OpenAI 研究加速的最新进展。我相信,围绕递归式自我改进的指标保持透明度,对于让公众参与讨论模型能力的发展速度以及随着 AI 进步将面临的技术和治理挑战至关重要。一些亮点:
本文由 AI 翻译自英文原帖,技术名词保留英文。
查看 X 原帖