开发者发布Swift系列高效推理大语言模型

我们推出 Swift，这是一个高效推理大语言模型家族。

包含如下模型：Swift1.5 27B、Swift Flash Next 和 Swift Bonsai 2，以及它们的 GSQ-RCO 量化版本。

对比高精度版本，思维令牌减少 63.4%，实际任务完成速度提升 1.95 倍，准确率下降不到 1%。

我们训练 Swift 模型的方法是：找到与过度思考模式相关联的令牌，对它们进行惩罚，而不直接“干预”推理长度，然后通过强化学习（RL）和 OPD 恢复准确率。

我们上一代模型 Swift1.0 27B 在 13 天内被下载超过 35 万次，用户反馈提升效果更好，独立评估显示令牌使用量减少 85%，任务完成速度提升 3.69 倍。

所有基准测试（GPQA、Terminal Bench 2.1 以及另外 6 个）都在基础模型和 Swift 上运行了 5 次，取 5 个随机种子的平均值，以统计方差。

在 GPQA 上与基础版 Qwen 进行公平对比如下：
- Swift 27B：思维令牌减少 58.5%，得分提升 0.3%
- Swift Flash Next：思维令牌减少 63.4%，得分下降 0.2%
- Swift Bonsai 2：思维令牌减少 39.8%，得分提升 0.2%

每个模型都配有 HuggingFace 空间和免费研究 API，你可以在正式使用前先行试用，相关信息可以在模型卡中找到。