AI Pulse
📡 X 信号

行业大佬判断未来18个月前沿AI的核心发展方向

对前沿AI未来18个月发展方向的展望:如果你能通过验证器产出足够多的数据和推理轨迹,那么AI推理训练+利用循环就可以生效。这一点已经在代码和数学结果上得到了验证。

前沿实验室希望将这个方法横向扩展到更多领域,因为仅仅通过增加数据和规模,神经网络基底本身无法涌现出更强的通用性。但人工完成这个训练循环成本极高,速度也很慢。这时就出现了“RSI”的相关讨论。

实验室想要自动化这个已经被验证有效的训练循环。怎么做呢?利用编码智能体来构建世界模型,也就是符号验证器。他们押注的方向是通过自动符号世界建模实现自动化横向领域扩展,这种方式可以为后训练提供关键反馈。

这点很重要,因为很多领域都无法容忍“在线”学习。符号世界模型提供了一条“离线”学习/训练的路径。让AI系统在带有测试的git仓库中测试假设是安全的,不会产生任何实际后果。而让AI对在线系统(比如SaaS数据库、税务申报、制造业投产等等)进行测试则并不安全。

再补充两个其他趋势:我们看到,围绕前沿推理模型构建更好的符号利用框架,已经涌现出了惊人的能力。

随着时间推移,这些框架会产出必要的训练轨迹,用来教模型模仿这个框架,最终就不再需要臃肿的框架了。

另一个相关的发展方向是多智能体扩展。很多问题都受搜索限制(我们现在在数学领域就能看到这种情况),当你对优化时间有要求时,单一线性思维链并不是寻找解决方案的最优方式。

本文由 AI 翻译自英文原帖,技术名词保留英文。

查看 X 原帖

订阅 AI Pulse

每天 08:00 · 12:30 · 18:30 · 23:50 更新