OpenAI推出加速模式 模型速度为标准14倍
OpenAI为GPT-5.6 Sol推出了一个叫Ultrafast的模式,目标是把模型的干活速度拉上去。这个模式能以标准处理14倍的速度运行,每秒最多生成750个输出token(token是模型与人类互动时生成的文本单位)。
过去想要实时速度,通常只能选更小或更专业的模型。OpenAI说,Ultrafast指向的新方向是每秒做更多有用的工作。它可以放进事件响应、客服与支持、金融市场分析和电子商务等企业流程。
Anthropic也做了类似的事,给Claude推出了加速版本,有快速模式,但速度没有达到OpenAI这个级别。
Ultrafast目前以预览版形式发布,由OpenAI和芯片商Cerebras的合作支撑。访问范围先限在一小部分客户,OpenAI说会随着容量增长逐步放开。全面开放的时间表、14倍速对回答质量的影响、使用成本,以及Cerebras芯片在其中的具体作用,目前都还没有说明。