AI开始自己开发AI了,开发者开始公开透明测进度
有人打开工作邮箱,收到了新的AI研发进度通报——这一次,通报的内容不是更新了什么模型,而是AI在自己开发下一代AI。
最近,AI研发公司Anthropic公开分享了三个追踪AI发展的衡量标准,分别是AI完成了多少AI研发工作、AI智能体(能自主完成任务的AI程序)的监督情况,以及算力分配情况。
Anthropic还给出了公司内部这些指标的当前快照,认为任何前沿AI开发者都可以发布同样的衡量数据,第三方也能对这些数据进行验证。这件事本身,是《Pacing the Frontier》报告提出的管控前沿AI发展思路的一次落地。
@AnthropicAI 认为:AI系统变得越来越强大,并且越来越多地被用来构建下一代AI,我们需要向公众展示这个进展。
@sudoraohacker 认为:所有AI实验室都需要统一的标准来衡量递归自我改进(AI用AI开发下一代AI)的进度,并且每周或每月公开报告,斯坦福数字经济实验室的AI指标仪表盘就是合适的发布地点。
@eliebakouch 认为:OpenAI公布了研发任务的使用细分,Anthropic公布了自动化水平,这些数据都来自同一篇@EpochAIResearch的文章,把两者结合起来就能得到更完整的图景。
一直以来,前沿AI开发掌握在少数大公司和实验室手里,公众对进展细节几乎一无所知,甚至有专家认为应该强制要求前沿实验室披露递归自我改进的相关信息。
这次Anthropic主动公开内部衡量数据,算是行业内第一次主动迈出透明化的一步,让公众第一次有机会看懂AI自己研发AI的进展节奏。
如果所有前沿AI实验室都跟进公布这些数据,普通人就能更清楚看到技术走到哪一步,而不是只能从大公司的发布会获得碎片信息。
接下来其他AI实验室,会跟上这次公开透明的脚步吗?