Thinking Machines开源Inkling 2 Small 多模态 MoE 模型(594B 总参数)

🔥本地部署添新选项！Inkling 2 Small 权重正式开源！

Thinking Machines 把这颗 594B 总参 / 17B 激活的多模态 MoE 模型以 Apache 2.0 许可证扔上了 Hugging Face，直接“Make Inkling your own”！

🔹594B 总参数、仅 17B 激活（8/384 experts），48 层 decoder + ViT 图像编码器，支持图文输入 + 文本输出

🔹最长 1M context，可变 effort，AA Intelligence Index 约 31 分，智能体编码、视觉、知识工作、推理全面跃升

🔹原生 NVFP4 / MXFP8 支持，Day-0 已接入 vLLM、SGLang、Unsloth、TokenSpeed 等，可直接微调

使用步骤：

1️⃣下载权重： NVFP4 版，显存需求更低

2️⃣本地推理：用 vLLM / SGLang 官方 recipe 一键启动（支持 tool calling + 推理解析）

3️⃣快速微调：Unsloth 或 Tinker 直接上手，也支持 Miles / SkyRL 做 RL

4️⃣不想本地跑：直接走 Together、Modal、Cloudflare、Baseten 等 API，或先去 Tinker Playground 试玩

模型卡和完整评测看这里：

#Inkling2Small #OpenSourceAI #MoE #ThinkingMachines #HuggingFace #AI #LLM #开源模型