NVIDIA新出大模型，很小就能跑百万上下文

我们提前获得体验资格的 NVIDIA Nemotron 3.5 Lightning 现已公开！这款模型体积非常小巧，上下文窗口却达到了100万，性能也足够胜任推理和智能体任务。非常推荐作为本地LLM的选择！

今天 Meta 也发布了30B模型（Muse Glimmer，它不是MoE架构），这类大小合适、能在DGX Spark上流畅使用的开源模型现在非常热门。

在Meta发布Muse Glimmer一天后，NVIDIA推出了Nemotron 3.5 Lightning和NeMo Switchyard，展示了本地智能体AI的另一种发展路线。这真的很棒。

Lightning是一个30B参数的MoE，激活参数仅有3B，它从Nemotron 3 Ultra蒸馏而来，专为常在线智能体的高容量执行层设计：处理工具调用、验证和子智能体工作。

NeMo Switchyard可以在开源和闭源模型之间路由单个工作流步骤。复杂规划可以留给前沿模型完成，常规执行则交给Lightning处理。它的免调优路由无需针对特定工作负载训练就能做出决策。

它对“智能体”的定义和Meta的Muse Glimmer的广义定义一致：能在多步骤工作流中操作工具的模型。但二者的系统设计不同。

Glimmer是一个密集型多模态本地模型，设计目标是理解屏幕、使用工具并从失败中恢复。NVIDIA则在模型组合中拆分了规划、执行和路由功能。Meta在打造本地智能体的大脑，也可以说：NVIDIA在打造本地智能体的劳动力。开源真的回来了：)