AI Pulse

ChatGPT 构建者发布 Jev:只输出概率,不输出文本

ChatGPT 构建者发布 Jev:只输出概率,不输出文本

Diogo Almeida 参与构建了 ChatGPT,发明了 RLHF。RLHF 让聊天机器人按人类偏好作答。但他对 ChatGPT 很失望。他在 TechCrunch 的采访里说:“我们手里握着闪电,可它不实用。”

Almeida 认为问题出在方向上。过去四年,行业一直在优化人类语言,但计算机说的是另一种语言。自动化软件不需要一段漂亮的回答,它需要一个能放进 if 语句里的判断。

两年前,他离开 OpenAI,创办了 TypeSafe AI。

本周 TypeSafe 发布了 Jev。它的架构是 transformer,但不是大语言模型。它不输出文本,只输出概率——公司称之为“校准决策”。使用方提前定义好可能的输出,Jev 给每个选项一个置信度。输出范围被锁死,它就没有机会编出新的内容,幻觉无从谈起。TypeSafe 管它叫“System One 模型”,意思是直觉式快速判断,不是慢速推理。

计费方式也变了:输出 token 免费,输入 token 按十亿计费,不是按百万。发布后需求太高,TypeSafe 一度没法通过 API 服务所有调用方。

Jev 眼下最被看好的场景是软件自动化。Pranit Sharma 是 Vercel 的软件工程师。他说,把 OpenAI 的 Luna 换成 Jev 后,结果快 5 到 18 倍,准确率也更高。

Bryo AI 的 CTO Nikhil Mudholkar 做了个测试。他让 Jev 和 Gemini 分类商务邮件,Gemini 略准,但贵 10 到 20 倍。Mudholkar 说,Jev 是唯一能给出真实概率的模型,这正是自动化工作流需要的东西。

Earendil 的 CTO Armin Ronacher 提醒,Jev 把“幻觉”问题的部分责任交还给了使用方。模型如果给出 50% 的概率,那接近随机,该忽略就忽略;给出 95%,才值得拿去用。

Jev 也可以管别的 AI。用 agent 监控另一个 agent,成本很高。换 Jev 来做,Almeida 觉得划算。他看到有人部署 Jev 跟踪 LLM 代理的行动轨迹,防止越狱。

Ronacher 还提到另一个方向:模型路由。判断一个任务值不值得调用更大更强的模型,这件事本身用 LLM 来做会很贵。Jev 便宜、快,实时分流因此成为可能。

模型的名字来自 19 世纪经济学家 William Stanley Jevons。以他命名的悖论说:商品成本越低,用量越多。Almeida 对 AI 的预期正是这样:当智能足够便宜,智能软件会到处出现。那会更像早期互联网,而不是今天人们想做的超级 App。

训练上,Jev 完全使用合成数据。方法是他所说的“来自校准决策的强化学习”。Almeida 说,当初押注所有数据自己造,是他人生中回报最高的决定之一。他称这比发布更好,也比 RLHF 更好。TypeSafe 一半是实验室。它基本独占“统计上可被充分理解的合成数据”这个子领域。

Jev 的底层架构仍是秘密。Almeida 守口如瓶。外界猜它建在开源权重 LLM 之上,但没有证据。Ronacher 预计竞争者很快会出现。大语言模型又便宜又有补贴,多数开发者还没被逼到要换路线,这个方向一直被忽视。

Almeida 说自己不想做新一轮的“前沿实验室”。前沿实验室的主产品是恐惧或炒作。他想让自己的产品只产出智能。他还划清界限:不是那种押注无限财富、在数据中心造神、把 AI 当宗教来做的人。

更多新模态的版本已经在准备中。完整定价、Jev 在哪些任务上不如 LLM、合成数据扩大规模后还能不能成立。这些 TypeSafe 都还没谈。

阅读原文
📚 相关主题 创业模型

订阅 AI Pulse

每天 08:00 · 12:30 · 18:30 · 23:50 更新