不用改大模型本身，GraphRAG精度直接暴涨

欧姆龙（OMRON）发表了名为「AGE」的方法，可在完全不对LLM本体做微调的前提下，提升GraphRAG（搜索图结构知识并传递给LLM的RAG进化形态）的精度（https://arxiv[.]org/html/2607.00052v1）。

问题出在将图信息转换为LLM可读的嵌入（向量）的环节。由于文本和图的信息承载方式不同，现有转换方法往往无法和LLM侧良好适配。

AGE在这里引入了LLM自身使用的学习方法「掩码学习」（隐藏部分信息让模型预测的自监督学习）。此外，它还采用了Yann LeCun提出的「JEPA」——这种学习方法不要求还原细节，只专注于预测抽象特征。

但图和文本不同，信息密度更高，如果无差别隐藏很难从其他节点推测出的「关键节点」，学习过程就会崩溃。因此AGE让「节点采样器」来选择要隐藏的节点。

由于是否隐藏是0或1的二选一选择，普通梯度下降无法完成学习，因此AGE用隐藏后预测的难度作为奖励，通过强化学习训练这个采样器，让它学习避开关键节点，只隐藏周边节点。

最终，在不改变模型大小，依然使用Llama3.2 1B的情况下，推理基准ExplaGraphs的精度从0.56提升到了0.83，提升了26.7个百分点。

ablation实验也证实，仅采用JEPA就带来15.5个百分点的提升，仅引入节点采样器就带来22.8个百分点的提升，两种改进单独使用也都有效。

即使是更小的Qwen3.5（0.8B）也呈现出相同趋势，ExplaGraphs的精度从0.48提升到了0.81。

不改动LLM本体，只提升传递给它的信息质量就能让性能提升到这个程度，我认为这是一个不显眼，但在实际业务中应该会相当有效的改进方向。