Jev 模型与大语言模型有什么不一样
Jev 很出色,它的开源伴侣 Laya 也一样。AI 领域的最新热门事物往往会获得大量炒作,有时甚至不是所有人都理解它。所以……这东西到底是什么?
Jev 是一种 AI 模型,它处理输入生成输出的方式和聊天模型、Claude、Grok 非常不同。它的输入有两类:
1) 需要评估的文本状态。可以是邮件、HTML、代码等等任何内容。
2) 一系列针对所附状态的提问。
TypeSafe 文档里的经典示例是识别支持工单的紧急程度。我们给模型传入客户文本加上一个是非问题“这很紧急吗?”,Jev 就会返回一整份 JSON。
这个 JSON 不是通过逐token自回归生成的。Jev 不是被训练来生成文本token序列,而是被训练来回答问题,并且能保证输出结构格式正确。在上面的示例中,我们能看到它输出了答案为“是”的概率是 0.99(概率范围是 0 到 1.0)。
Jev 恰好支持三种问题类型(视频里的第二个示例):
a) 是非题:输出是/否问题答案为“是”的 0–1 概率。
b) 选择题:提问带有预定义答案集,Jev 选出最优答案并给每个答案分配概率。
c) 评分题:提问带有预定义答案范围,Jev 输出该范围内的一个位置。
Jev 会并行计算所有问题的答案,即便是单个请求里包含很多问题,响应速度也非常快。这看起来能力范围很窄,但放在合适的场景里就能发挥出惊人潜力。它也很适合作为编程用的 API / 基础组件,因为输出……呃……类型安全而且结构可预测。
Jev 不会取代 LLM 来帮你写代码、自动生成文档或是成为智能体框架的核心。但 Jev 确实非常出色,会被用来构建大量很棒的技术。希望这篇解释能帮到大家。
本文由 AI 翻译自英文原帖,技术名词保留英文。
查看 X 原帖