新型AI基础设施Jev实测最快快193倍,成本低444倍
Jev被称作AI基础设施领域的「ChatGPT时刻」,在针对Claude Fable 5.1和GPT-6 Astra的测试中,它最高可实现193倍速度提升,同时成本最多可降低444倍。
这份2页工作笔记介绍了Jev是什么,它的三个基础组件如何工作,以及使用方法,核心使用步骤共9步:
第一步,满足约束条件:Jev不生成散文、不给出解释、也不生成推理过程。限定范围的问题会直接返回结果,因此决策不再需要调整提示词,转而变成需要明确的约定。
第二步,了解三类基础组件:Choice从2到255个选项中选出一个最优结果,并返回完整概率分布;Score将状态放在2到10个级别的评分标准中进行评分;Noul返回一个概率值。
第三步,将状态视为证据:包括目标、已验证事实、现行规则、当前可用选项和已完成操作,在不影响结果的前提下尽量精简。
第四步,不要把指令隐藏在状态中:问题承载指令,状态承载已发生的内容。
第五步,对独立问题批量处理:请求中的每个问题都在一次往返中针对同一状态处理,因此可以一次性询问所有能从当前证据得到答案的问题。如果问题B依赖问题A,那就分两步处理,而不是作为两个问题一起处理。
第六步,正确解读置信度:置信度反映的是分布的集中程度,不代表答案正确,也不代表操作许可。置信度低通常意味着你的标准不够明确。
第七步,使用区间划分而非单一阈值:低于阈值上报,区间内自动处理,无法撤回的操作需要确定性检查或人工介入。
第八步,保持边界清晰:Jev只在允许的选项中做选择,代码负责规划、阈值、权限和预算,执行者执行可观测的操作,验证器重新读取外部系统。
第九步,避免用在不适用场景:可计算问题、开放选项空间问题、多标签问题和自由写作都不适合用Jev。
运行第一周的测试方法:只测试一个重复决策,准备10个示例,其中包含2个模糊示例和1个无有效答案的示例,运行前提前写好预期结果。
测试结果显示:幻觉生成的工具名称无法执行,因为它不在候选集合中;生成的结论无法闭环,因为需要新证据验证。
完整Jev蓝图及设置可访问: