英伟达发布Nemotron Retriever，AI代理查图表token省13%–14%
英伟达发布了一组新的开源、可商用检索模型，统称Nemotron Retriever。家族里三个角色分工不同。Embed 8B和1B负责嵌入，把文字和图像都转成可比较的向量。Rerank 8B负责重排，从初选结果里挑相关段落。Parse 631M负责解析文档，把扫描件和PDF变成保留结构的文本。
三个模型的共同点是多模态。企业AI代理整天翻合同、查表格，以前遇到图表只能绕开；表格里的数字、信息图里的关系，文本检索都看不到。现在Embed可以直接在图像上做检索，Rerank和Parse用的也是同一套图文输入。
英伟达公布的数据里，Embed 8B在ViDoRe v3.1上拿到61.17 nDCG@10（衡量检索排序质量的常用指标），在稠密检索模型里排第一，比Llama Nemotron Embed VL 1B高8.94分。MIRACL Vision上，8B的72.6分比Qwen3-VL-Embedding-8B高4.3分。重排榜单上，Rerank 8B以60.49分排第一，超过Qwen-3-VL-Reranker-8B的59.17。
外部评估也指向同一结论。Vectorize在长对话记忆基准LoCoMo上测到93.8%的recall@10，在BEAM 100K上测到65.9%，两项都在七个嵌入模型里排第一。Perplexity用自己的72个任务跑重排，Rerank 8B平均分最高。Turbopuffer拿企业PDF搜索来测，Embed 8B在Recall@20上比第二名多出约5%的相关结果。
对企业AI代理来说，最直接的变化在token账单。加入Rerank后，每次查询消耗的token下降。配8B Embed约省14%，配1B Embed约省13%，检索准确率同时上升。重排先把候选段落按相关性压一遍，生成阶段不需要把所有内容都读进来，token就省下来了。同样用Embed 8B做检索器时，Rerank 8B在相似token预算下的nDCG@10比Qwen3-VL-Reranker-8B高约0.9分。Rerank和Embed 8B共用骨干架构，跑的是交叉编码器配置。
Embed 1B是8B的蒸馏版本，在ViDoRe v3.1上得58.38分，保留教师模型95.4%的质量。量化版更偏向速度：1B NVFP4在GB200上跑出128.8文档/秒，比BF16版本高27.1%，准确率保留99.85%。用NIM部署时，Embed 1B在RTX PRO 6000 Blackwell上达到6031次查询/秒，约是vLLM配置（2099次查询/秒）的2.9倍。
Parse负责检索链的第一步。输入文档图像，输出Markdown和HTML表格，阅读顺序、表格行列、图表位置都保留下来，下游索引和搜索不用再从乱序文本里猜结构。ParseBench上，它在10亿参数以下模型里以75.20分排第一，单张H100上处理速度10.5页/秒。速度和准确率可以按需取舍：单次推理16.1页/秒、72.74分；双次11.2页/秒、74.92分；三次10.5页/秒、75.20分。OCR评估覆盖163种语言和脚本组合，训练数据里有企业文档、科学论文、表格、图表和多语言文本。文档结构正确性由GRPO在后训练阶段强化，用奖励函数巩固正确结构、惩罚失败解析。
英伟达还公开了微调实验：Embed 1B在6872条查询上训练一个epoch后，图表和信息图场景的nDCG@10从37.34提高到44.12，相对提升18%；8B从41.44提高到42.75，相对提升3%。评测集是1719条保留的合成查询。
训练细节上，Embed 8B基于Ministral-3-8B-Instruct，语言组件初始化自Nemotron-3-Embed-8B-BF16。1B从8B蒸馏，语言组件初始化自Nemotron-3-Embed-1B-BF16。训练期间语言组件冻结，纯文本嵌入预期和上一代Nemotron 3保持一致。已有文本向量索引可以直接复用，不必重建。所有模型的训练数据混合公开数据和合成多语言多模态数据，最终权重来自检查点集成。
接入路径已经铺好。Elasticsearch用户现在可以通过Inference API调用英伟达推理端点来使用嵌入和重排模型。Nemotron 3很快会在Elastic Inference Service上提供，本地部署还在路线图。开放权重、数据和训练配方都在Hugging Face，NIM用于生产推理，Baseten、DeepInfra、FriendliAI、OpenRouter等伙伴也已接入。
英伟达在发布说明里感谢了LightOn，说对方开源模型和技术博客“对改进我们的模型至关重要”。
语言范围上，英伟达给出的指标是：文本检索覆盖34种语言，视觉检索在MIRACL Vision的18种语言和KoViDoRe上评估。
关键事实
- NVIDIA发布了Nemotron 3.5 Embed（8B和1B两个尺寸，1B有BF16和NVFP4两种精度）、Rerank 8B和Parse 631M，均为开源且可商用。
- 这些模型支持多模态检索，即能同时检索文本和图片（表格、图表、信息图等）。
- 在代理任务中，加入Rerank模型可降低约14%（配合8B Embed）和13%（配合1B Embed）的每查询token成本，同时提升检索准确率。
- 在相同代理token预算下，Nemotron 3.5 Rerank 8B的nDCG@10比Qwen3-VL-Reranker-8B高约0.9分。
- Nemotron 3.5 Embed 8B在ViDoRe v3.1上以61.17 nDCG@10排名第一，比Llama Nemotron Embed VL 1B高8.94分。
- 1B模型保留了8B教师模型95.4%的视觉检索质量（58.38 vs 61.17 nDCG@10）。
- 在MIRACL Vision上，8B模型达到72.6 nDCG@10，比Qwen3-VL-Embedding-8B高4.3分。
- Nemotron 3.5 Rerank 8B在ViDoRe v3.1 reranking排行榜上以60.49 nDCG@10排名第一，超过Qwen-3-VL-Reranker-8B的59.17。