数学界刚被AI掀翻,下一个轮到AI自己了
去年,数学家们还在讨论AI能不能证明那些悬了几十年的难题。现在,Dwarkesh Patel把镜头对准了AI研发本身。
他发布了44分钟的视频和配套文章《The avalanche that hit math is coming for AI development》,副标题直接写着“Why I now expect superintelligence by 2030”。这意味着他把超级智能的实现时间线,从原先的更远未来,压缩到了2030年。
这个判断的核心逻辑,是把AI研发和数学研究做了一个类比。数学界最近被AI“雪崩”冲击,是因为证明一个定理是可验证的——一旦写出来,同行能立刻判断对错。Dwarkesh认为,AI研究虽然实验成本更高,需要算力,但预训练损失这类代理指标是可以校验的,大部分AI研究因此具备可验证性。
@eliebakouch 认为:这篇文章对理解AI进步和如何衡量它至关重要,他自己做了几个月相关工作,几乎同意里面的所有观点。
@joshua_saxe 认为:Dwarkesh的论点是原始缩放定律和涌现能力论文的“上一层元版本”——那些论文说更多算力加固定算法等于更好的模型,而他说的是更上层的东西。
文章还提出了一个更具体的方向:样本效率与在线学习是同一个问题的两面,即如何从真实世界数据中快速高效学习。这被认为是机器学习领域最深层的开放问题,相当于AI领域的千禧年大奖难题。
如果这个类比成立,意味着AI研发本身也会进入“可验证—快速迭代”的循环。以前需要一个团队花几个月跑实验、调参数,未来可能被压缩到几天。
但问题是:当AI开始加速改进AI自己,我们该用什么标准来判断它走得太快还是太慢?