多位开发者发布多款面向决策场景的小模型(58.28)

来自 @Microsoft 的 Meet Microsoft-Decision-1

这是一个为单一任务构建的小型模型：快速决策。

路由、分类、智能体控制、AI 判断都能用。它能为每个选项返回校准概率。

→ 基于 Qwen3.5-9B 后训练
→ 比 GPT-6 Sol 快 35 倍
→ 比第二名快 4.5 倍
→ 在 36 个基准测试中准确率排名第一
→ 每百万输入 tokens 价格 0.042 美元，输出免费

你的权重，你的硬件，你的数据。@NaceAI 推出的 Drex 1.5 现已开源：这是一个为决策构建的小型扩散语言模型，在 Decision Index 0.2.1 上排名第一（得分 58.28，Jev 1.13.0 得分 57.91），总参数量不到 100 亿。现在权重和代码终于公开了。

为什么这件事很重要：
-> 开源且属于你：你可以在自己的硬件上运行 Drex，保留你的数据，针对你的任务微调它。

-> 它能读取完整内容：它是市场上首个也是唯一一个开源的 128K 上下文长度决策模型，因此一整篇文档、长代理历史和完整代码库都能容纳在一次决策中。此前的开源模型上下文长度止步于 1K。

-> 可直接替换为 Drex：可配合 TypeSafe 自己的 SDK 使用。你已经在用 Jev 了？只需更换基础 URL，你的代码不用做任何修改。

你可以用 llama.cpp、Ollama 或 Unsloth 在本地运行它，然后把它接入 Claude Code、Codex、Cursor、OpenCode 等更多工具。

🤯卧槽？！用本地免费笔记本训自己的决策模型的时代来了！

Unsloth 刚放出免费 Notebook，把普通 LLM（比如 Qwen3.5-4B）直接变成 Jev / Laya / Clef 风格的决策模型，不吐文本，只吐选项 + 置信概率。

关键亮点：
🔹免费 Colab/Kaggle Notebook，点开就能跑，Qwen3.5-4B 本地 8GB VRAM 就能训；更小的 0.8B 只要 4GB。
🔹准确率暴涨：从随机瞎猜的 ~30% → 74%~81%（typed-decisions / BANKING77 / CLINC150 等基准），一 epoch 就起飞。

🔹支持三种决策类型：choice（多选一）、noul（是/否）、score（打分），一次 forward 全评完，带校准概率。
🔹数据格式超简单：state（输入）+ questions（问题定义）+ gold（标准答案），和 Laya/Clef 完全兼容。
🔹训完直接本地部署，支持 Unsloth Desktop 的 Decision API，或者自己 serve，数据全在本地，隐私拉满。

5分钟上手：
1️⃣打开免费 Notebook：
2️⃣准备数据：state + 问题字典（choice/noul/score）+ gold 答案，用 一键处理。
3️⃣加载模型 + LoRA（推荐 r=16，lr=2e-4），用 DecisionTrainer 跑 1-2 epoch（T4 也能飞）。

4️⃣校准 + 推理：FastDecisionModel.predict(输入， 问题字典) 直接拿决策和概率。
5️⃣保存 / 合并模型，丢进 Unsloth Desktop 的 Decision API 或自己 serve。

官方指南：
小模型本地就能变成会做决定的 AI，客服路由、内容审核、工单分派、风险判断……全都能自己训一遍。

#Unsloth #DecisionModel #本地AI #Qwen #LLM #免费训练 #AIAgent #FineTuning #OpenSource #决策模型 #Laya #Jev