doss_hq 的 OpenOntology 让小模型打败顶尖大模型

哇，这个项目比我预期的受欢迎太多了：@doss_hq 的团队很快就会发布 OpenOntology。

我搭建了第一个版本，用来帮我们的智能体推理任意规模的语料库上下文。它的工作方式是遍历语料，为自己创建映射图（称作「ont」），然后将概念和细节组织进层级结构与系统中。

得到的结果比我想象的还要惊人。有了它，哪怕是最低配置的模型，表现也能超过前沿模型。这些映射图几乎不占用额外上下文。

当映射图存储在提示缓存中时，它能将智能体搜索/问答问题解决的轮次减少 5x-10x，压缩率达到 30x，成本降低 100x 以上（Deepseek-flash+Oont 的表现超过了 Opus）。

这些映射图在设计上就能「保持更新」，源清理器和解析器会持续运行，失效 ont 中过时的概念。

实际应用中这意味着：一旦你拥有了一个信号密度足够支撑 ont 的系统……你就可以用一个 SOTA 模型来引导生成 ont，过程中它还会编写用来维护 ont 的确定性解析器，最终你就可以用非常便宜的模型来查询它，性能达到 SOTA 水平（往往还更好）。

显然，它还有一个好处：能让 SOTA 模型保持 grounded，并强制模型披露信息缺失的情况。

这是我做语言模型工作以来体验最奇特的一次，太不可思议了。我已经迫不及待等着大家来试用了。