Jev类模型指向AI交互新方向

我要改变一下对 Jev 类模型的观点。刚发布的时候我觉得它不过是个分类模型，现有 LLM decode 一个 token 就行了。现在意识到它技术上不难，关键是 System 1 的思想：世界是事件驱动的，每次只做一点简单决策。

首先，之前 LLM 是用在 agent react loop 里面的，外围的 harness 和业务逻辑里尽量不用 LLM，否则成本和延迟都受不了。Jev 和今天刚发布的 Pine Computer 的逻辑是，只要模型够快、够便宜，那么很多原本只能用 if-else 凑合的业务逻辑都可以上模型了。

更深一步想，人的实时决策其实更像 System One 模型，而不像 autoregressive LLM。

- 在语音对话中，人每几百毫秒都要做出打断、附和、停顿等交互判断，这是 AI 说话像人的关键。在 GPT-Live 1 和 TML interaction model 这些 full duplex model 中，每个几百毫秒的时间片它只输出几个 token。

- 在 computer use 中，人每几百毫秒都要决定下一步点哪里，UI 一改变，本来准备点的位置也不点了。Pine Computer 就是把 computer use 从 turn based 变成 event driven 的了，输出也尽可能从坐标简化成了 label。

- 在 robotics 中，人每几百毫秒都在规划下一步的动作，或者停止当前动作。

在交互中，观察反馈循环的频率很可能比智商重要。Full-duplex models、Jev 和 Pine Computer 都在指向一个新的方向，SOTA background model 负责深度思考、解决难题，而 System One Models 负责实时语音交互、computer use、业务逻辑判断，甚至未来的具身操作。