mostik_ai发布大模型潜空间推理协作方案(12)

来认识 @mostik_ai！把 12 位博士关在一个房间里四个月会发生什么？我们拿下了 ARC-AGI 排行榜的第一名，关于这个在比赛进行期间我不能说太多，但这件事我可以说。

现在所有人都在争论开放模型能否追平前沿模型，我们认为这个问题问错了。我们提出的问题是：既然你只需要前沿模型的推理能力，那为什么非得让它来生成你的答案？

我们的实现方式是让模型在潜空间中通信。通过我们的协议，隐藏状态可以直接从前沿模型传递到运行在你自己基础设施上的小模型——它们之间没有文本交互，而且两个模型都没有经过微调。来自不同家族的两个模型共享推理能力，两者都保持原状态不变。

我们怎么知道它有效？我们做了测试：让一个 753B 模型读取问题，一个 4B 边缘级模型生成答案。用这种方法，我们得到的结果准确率达到了前沿模型的 80%，但性能快了 20 倍。

我们致力于防止前沿模型锁定，目前已经和多家推理提供商合作，加速开放权重的应用落地。

我们 15 个人花了四个月做成了这件事，其中有 12 位博士和一位菲尔兹奖得主，由 @generalcatalyst 资助。

WIRED 最先对外报道了这家公司和这项工作，里面有完整的报道、设置说明和所有数据。