AI Pulse
📡 X 信号

读个 PDF 就烧完前沿模型的额度,其实开源模型就能干

读个 PDF 就烧完前沿模型的额度,其实开源模型就能干

读取一份 PDF 不该消耗你的智能体的前沿模型 token。解析文档、描述图像、从文本中提取字段,这些都是开源模型能胜任的工作,但智能体最终可能把它们和其他所有任务一起发给同一个大模型,并为此付出 token 成本。

SIE,即 Superlinked 推理引擎,推出了一个 MCP 边缘服务,让 Claude 和其他 MCP 客户端可以把这类工作卸载到你自己的集群上,从而节省智能体 token:

文档:PDF、Office 文件和扫描件通过 LightOnOCR、MinerU 和 Docling 等模型转换为干净的 markdown。

图像:使用 Florence-2、OWLv2 和 Grounding DINO 等模型进行图像描述、目标检测和视觉问答。

结构化输出:来自 GLiNER2 和 Qwen 模型的经过 schema 校验的 JSON,让客户端获得所需的字段。

MCP 边缘服务背后是同一个集群,用于提供搜索、安全和生成模型服务。它基于 Apache 2.0 开源。

仓库:https://github.com/superlinked/sie

如果你使用 Claude 或其他 MCP 客户端,请给它点个 star。

本文由 AI 翻译自英文原帖,技术名词保留英文。

查看 X 原帖

订阅 AI Pulse

每天 08:00 · 12:30 · 18:30 · 23:50 更新