ChatGPT联合发明人推出新AI,不是聊天机器人
有人用ChatGPT写文案、改简历,有人用大模型生成代码自动执行任务,但很多软件里的基础智能判断,还是要靠人花时间梳理。
ChatGPT的一位联合发明人花了两年秘密研发,推出了一类完全不一样的AI模型。
这次发布的首个模型叫Jev,属于全新的「System One模型」类别,由这位发明人创办的TypeSafe AI开发。
和我们熟悉的ChatGPT这类大语言模型不同,Jev直接放弃了文本生成能力,专门给软件做快速决策用。
它接收非结构化数据输入,输出带校准概率的类型安全结构化结果——简单说就是,它不会写文章也不会聊天,但能在代码里当一个超快的「智能判断函数」。
@CompleteSkeptic 认为:这是一条基于AI实现经济变革的最短路径。
@paarangatrai 认为:大语言模型生成答案,Jev做决策,这个小小的区别完全改变了适用场景。
@jpschroeder 认为:这是一个超快的分类服务,非常实用,而且完全适合本地运行。
根据公开数据,Jev比现有的大语言模型快20到200倍,成本低40到400倍,输出token(大模型的计算单位)完全免费。
具体来说,输入每百万token成本只要0.042美元,每十亿输入token成本是42美元,输出免费;延迟(处理请求到给出结果的等待时间)大约150毫秒,已经有人做了超过10万次请求、生成超过1亿token,总花费不到5美元。
它为什么能做到这么快?因为它完全跳过了大语言模型逐token生成的过程,直接出结果。
最近半年AI行业的方向,除了做大模型,也开始在更快、更便宜的垂直方向找突破。
如果说大模型是能聊天会写文的全能助手,Jev就是藏在软件底层,专门干脏活累活的智能零件。
现在很多人用AI都停留在和聊天机器人对话的阶段,但如果这种低成本快速度的决策模型普及,未来很多APP里的判断逻辑,都可以换成它来做。
以后打开一个新应用,你感受到的响应速度变快,订阅价格变低,可能背后就有它的功劳。
现在已经有人在呼唤开源版本了,替代路径已经出现,门槛只剩一份说明文档。
你觉得下一个被它换掉的,会是你工作里的哪一步?