Nace AI 发布 Drex 决策模型,27B 版本响应快 19 倍
关于基础决策模型的报告非常精彩。这项工作推出了一个 27B 的开源决策模型,在 Decision Bench v4 上与 Claude Opus 5.5 的差距仅为 1.6 分,且回答时间为 183 毫秒,而非 3.5 秒。
Nace AI 发布了 Drex,这是一个包含四个开源决策模型的家族,分别为 8B、9B、35B(激活参数为 3B)和 27B。你向模型输入一个状态,例如文档、记录或智能体的上下文,再加上带有固定选项集的问题。它会返回每个选项的概率,而不生成文本。
27B Max 模型在公开的 Decision Index 0.4.1 测试套件中得分 67.52,而 Jev 1.14.0 为 60.70。在 Decision Bench v4 上,它在统计上与 GPT-6 Sol 和 d3-turbo 持平。在 DecideBench 上,它也是所有决策模型中准确率最高的。
模型训练:在微调之后,训练过程加入了基于调整反馈的强化学习(RLAF)。教师模型为每个选项提出一个概率,经过验证的答案会对其进行调整,因此模型训练时使用的是校准后的目标,而非独热标签。RLAF 增加了 2.0 个 Decision Index 分数,而一致性损失将选项重新排序时答案翻转的比例从 6.3% 降低到了 4.2%。
HF:
论文:
与论文对话:
本文由 AI 翻译自英文原帖,技术名词保留英文。
查看 X 原帖