StartLux-Decision 全尺寸开源,单卡 H200 延迟低至 25ms
🤯无敌了!0.8B~27B全尺寸开源!全球最强决策模型StartLux-Decision炸场,算力只花在刀刃上!
StartLux Labs刚发布的StartLux-Decision(覆盖0.8B、2B、4B、9B、27B)彻底改写决策模型赛道:
🔹Instant:一次前向直接出答案,单卡H200中位延迟仅25-52ms,快到离谱。
🔹AutoThink:有把握就秒答,没把握才短推理,智能分配算力。
🔹原创RLCD²:用冻结模型+Proper Scoring Rule打分,奖励“概率变准”,软性惩罚过长推理 → 平均推理长度最多缩65%,长度上限内完成率最多提48个百分点,准确率几乎不掉。
🔹Decision Index 0.3公开榜断层第一:各尺寸Instant同规模最强开源模型高7.4~16.9分,27B AutoThink直接冲到73.4。
🔹全新基准DecisionPivot(只改一个关键细节答案就翻转,可程序化验证):AutoThink成对准确率比Instant再高11.5~18.4个百分点,全场领先。
🔹全栈友好:vLLM / llama.cpp / MLX全支持,GGUF + MLX 4/8-bit量化版,Mac也能跑。
3步本地起飞:
1️⃣git clone && cd StartLux-Decision && pip install -e '.[vllm]'
2️⃣hf download startlux-models/StartLux-Decision-v1.1-4B-AutoThink --local-dir models/4B
3️⃣startlux-decide serve --model models/4B --launch-vllm --gpus 0 --port 8090
代码Apache-2.0,权重CC BY-NC 4.0(商用另洽),兼容TypeSafe /v1/systemone,Agent直接无缝接入。
决策模型的新王已至,谁还在用通用大模型硬判?
🔗 GitHub:
📄 论文:arXiv 2610.17309
#大模型 #开源模型 #人工智能 #强化学习 #LLM #AIAgent #决策模型 #StartLux #RLCD2 #AutoThink