AI Pulse

Gemini Decisions API:输出token计费为0,专做判断任务

Gemini Decisions API:输出token计费为0,专做判断任务

Gemini 回答问题通常是一个字一个字往外蹦。写文章、聊天需要这样,但很多任务其实不需要——检查一张照片里有没有洒出来的咖啡,或者从几个预设回复里挑一条,都属于这类。谷歌 DeepMind 把这部分拆出来做成了独立产品:Gemini Decisions API,由新模型 Gemini Decision 1 驱动。

模型不逐 token 生成答案文本,而是在单次前向传播中给候选选项打分,直接返回概率和置信度。端到端延迟 150 到 250 毫秒,其中模型计算的中位耗时是 50 到 100 毫秒。在 16K token 上下文以内,一次请求问 1 个还是 100 个问题,延迟几乎不变。

单次请求最多评估 1000 个问题,输入覆盖文本、图像、音频、视频和 PDF。问题分三种:noul(是/否)、choice(2 到 255 个选项的多选)、score(从 0 开始的有序评分)。每个答案都附带一个 0 到 1 的置信度分数。

置信度分数的用处,是让不确定的判断有出口——分数低时可以转人工复核或者走回退方案,而不是让模型硬猜。在代理路由、推理、排序和多模态理解的基准测试上,Decision 1 全面领先,校准误差也最低。

多模态是原生的:文本、图像、音频、视频、PDF 可以在同一次前向传播中处理,也能混合输入,比如把通话录音和账户元数据放在一起,或者把扫描的理赔 PDF 与损坏照片配成一对。

谷歌自家产品先跑起来了。Gemini Notebook 用它做实时路由,把查询分到最合适的模型层,日常查询延迟降低 40%。Stitch 用它快速生成可玩线框,CC 从 200 多个表情符号里挑合适的,Google Search 用它检测对抗性行为。这四处都不是演示,是已经在跑的场景。

价格结构也顺着判断任务改了:每 100 万输入 token 收 0.10 美元,输出 token 计费为 0。共享输入按请求只计一次费,不管评估多少问题。没有输出 token 费、可变思考 token 费,也没有单独的音频转录和 OCR 成本。在共享基准套件下,比 Gemini 3.5 Flash-Lite 搭配 Interactions API 便宜近 5 倍。Google AI Studio 提供了免费层用于原型设计。

开发者现在就可以在 AI Studio 拿 API key,官方配了 Doorstep Parcels、Speed Sketch、Find the Zoo Keeper 三个演示应用,以及 Python、JavaScript、REST 三套指南。第三方平台的集成正在 OpenRouter、LangChain、Vercel、LiteLLM、Pydantic AI、Pipecat、LiveKit 和 OpenCode 上铺开,google-genai SDK 同步提供,Gemini in Google Cloud 的支持尚未上线。

Decision 1 的模型规模和训练数据没有披露。它在非英语语言上的表现、在医疗和金融这类高风险领域的合规情况,目前也都是空白。

关键事实

阅读原文
📚 相关主题 API多模态

订阅 AI Pulse

每天 08:00 · 12:30 · 18:30 · 23:50 更新