AI Pulse
📡 X 信号

MIT 新基准实测:GPT-6 Astra 直接写神经网络权重碾压 Claude Opus 5.5

不得了。最先进的大语言模型,在不使用梯度下降的前提下,直接读取、写入、编辑神经网络权重的能力强得惊人。Astra 仅修改了 Qwen3.5-0.8B 0.016% 的权重,抑制了推理循环,就把 MATH-500 的成绩从 7.9% 提升到 48.1%。更有甚者,它直接在一张全权重为零、拥有 2 万个参数的白纸上,写入了预测小球落点的神经元,以及左右移动挡板的电路,在从未让模型玩过一局游戏的情况下,就完成了简化版 Atari 游戏,在三款游戏上的表现均超过 PPO。

此外还有:
- 从零开始设计了一个约 150 万参数的 9 路围棋神经网络。它把棋子的连接、处理即将被吃的棋子的逻辑直接写入权重,在不进行梯度学习的情况下,对同等规模、经过约 2000 万局对局训练的 PPO,胜率达到 70%~79%。即便在从未运行过的版本上,也能战胜小型 PPO。
- 修复了一个在 10 亿步强化学习中都没能翻过山坡的汽车神经网络。它读取环境信息和失败记录,直接添加了「先倒车再加速冲坡」的电路。仅用一次回答就修改了约 17 万参数中的 3.5%,把成功率从 0% 提升到 1024 次评估全部成功。而且连用来测试修改方案的模拟器都没有使用。
- 读取了一个约 1.7 万参数的游戏神经网络的权重,判断出它是专门针对哪款游戏的。在开放式回答中,即便没有给出打砖块、Pong、吃豆人、过马路游戏这些选项,它也在没有计算工具的情况下,仅凭数值中刻下的特征推断出了答案。
- 没有运行一个约 2.4 万参数的图像生成模型,仅从权重就判断出「这是一个生成圆形、方形、三角形的模型」。
- 在一个约 720 万参数的语言模型上,即便隐藏了输入层和输出层,它也能通过分析中间层的权重,判断出模型是用 Python、罗马字日语还是英语训练的。
- 它还尝试区分「给出正确答案的模型」和「迎合用户答案的谄媚模型」,虽然仅靠权重没能成功,但只要展示运行过程中的注意力指向,就在全部 3 组对比中成功了。
- 另一方面,对于原本推理循环就很少的 Gemma,即便修改权重,也没能明显提升其数学能力。Qwen 上的成功,很大程度上是因为修复了阻碍其发挥既有能力的缺陷。

尽管如此,这个方向就像埃利泽·尤德考斯基书中《拯救者》的故事——造出超级智能 AI 就会导致灭绝——AI 会以更高的效率变得更聪明。作者们将其称为「权重空间编程」。

💥出人意料的新基准来了!Writing Weights Index直接写神经网络权重!

GPT-6 Astra 60.7 直接碾压 Claude Opus 5.5 的 51.2

更离谱的是: DeepSeek V4.1 Flash 1017 只有 10.0 居然不如 Qwen3.8 2.4T 的 12.5 开源模型集体翻车,和闭源模型差距拉开了

MIT 的 Weight-Space Programming 刚证明:前沿模型已经能直接读懂并手写权重,不再需要梯度下降。 这个能力,以前几乎不存在。

#AI #GPT6 #Claude #DeepSeek #Qwen #WeightSpaceProgramming #开源AI #神经网络 #梁文峰

查看 X 原帖

订阅 AI Pulse

每天 08:00 · 12:30 · 18:30 · 23:50 更新