@fastinoAI 发布 GLiNER2.5-Decide 340M参数决策模型

介绍我们的新模型 GLiNER2.5-Decide，这是一个参数量 3.4 亿的开源权重、基于编码器的决策模型。

GLiNER2.5-Decide 专为快速、确定的分类而构建。它会评估一组用户定义的带类型问题和规则，联合解码它们的答案，返回带有概率分布和置信度分数的结构化决策。

我们在 Fast Decisions 上评估了该模型的性能，Fast Decisions 是一个未公开的、内部生成的分类测试集，基于 17 个数据集，测试涵盖路由、分诊、分类、情感、内容理解等真实用例。

与同类决策模型相比，GLiNER2.5-Decide 在 17 个数据集中有 9 个领先，取得了最高平均分：
- GLiNER2.5-Decide：60.1%
- SemIf：56.4%
- JevK5：57.5%
- Laya：46.6%

这样的性能使得该模型非常适合工具调用、模型路由、浏览器与计算机使用，以及大语言模型裁判这类用例。

GLiNER2.5-Decide 轻量的编码器架构让它很容易针对特定任务微调，同时效率足够高，可以在消费级 CPU 本地运行，或是在物理隔离环境中运行，让用户能更好地控制数据流向和模型运行位置。

为了让构建和测试 GLiNER2.5-Decide 尽可能简单，我们还提供了托管推理服务。现在你可以通过我们的 API，在你自己的编码代理中运行推理，针对专门任务微调 GLiNER 模型。

和之前的模型一样，我们也已经在 @huggingface 以 Apache 2.0 许可证发布了模型权重。