英伟达新模型激活参数多一倍却更快，量化后消费级显卡或可跑

英伟达发了Nemotron-3.5-Super-VL-120B-A12B模型家族，四个版本：base、NVFP4、BF16，外加带LiLiCorr投机解码的。总参数1200亿，每次激活120亿——激活参数越少，硬件门槛越低。有人看到这个体量挺兴奋：又一个120B级别的模型，而且跑得快。

讨论很快落到消费级硬件上。有人算过一笔账，如果量化做到1/2位精度，单张RTX 3090加32GB系统内存就能带得动。也有人追问，NVIDIA有没有明确说过模型能塞进24GB显存，还是系统内存要多出力——官方没有回应过。同级别的Qwen 3.8 flash next带着一张很大的engram table，把总内存和存储需求抬高了，Nemotron这边反而省。

速度是讨论里最热的话题。Nemotron激活120亿参数，比Qwen 3.8 flash next的60亿多一倍，跑起来却更快。大家把原因归到Mamba块上，这种结构对推理速度很友好。智能体编码任务上，Nemotron跟Inkling Small质量相当，速度接近Qwen 3.8 flash next的两倍。实时聊天、代码补全这类场景，速度快一倍，用起来明显更流畅。LiLiCorr投机解码具体怎么帮助提速，NVIDIA没有讲。

上下文给了1M，整本书或大型代码库可以一次塞进去。超长文档经常要分块处理，这种长度能省掉不少麻烦。

Nemotron本身的定位是微调基座，跟Mistral的路线一致。社区已经有人希望看到微调版本，因为模型就是为后训练设计的。但NVIDIA的模型一直很少被社区拿来微调，官方这次也没有说明微调工具和教程。医疗、法律这类垂直场景的专用模型，得等微调社区先动起来。现在有人在问能不能拿去跑Sillytavern，也有人盼着出个基于3.5 Lightning的版本。

对比要看具体任务。DeepSWE基准上，Nemotron只有Qwen 3.8 flash next一半的分数。整体不如后者，但差距没拉开；如果都不针对基准刷分，两者大致在同一水平。有用户评价说，它几乎什么任务都不占优，偶尔差得很明显。离开编码这一项，Nemotron的表现反而更好。顺带一提，有用户注意到Qwen 3.8 flash next在大量基准测试中赢了GLM 5.3 flash。编码仍然是Qwen系最强的地方，Nemotron的均衡点在编码之外。

和上一代Qwen 3.5-122B-A10B比，用户觉得Nemotron是实质性升级，视觉任务除外。视觉这块用的RADIO方案，讨论里期待不低。视觉到底差在哪、有没有官方微调工具、许可证算哪种，NVIDIA都没提，这块只能等消息。

还有人推测，在Strix Halo这类平台上跑，Nemotron会比Qwen 3.8 flash next更省内存。这个说法还没实测过，但模型在内存和速度上的取舍，看起来确实指向这个方向。