视频理解以前每秒看一帧,现在只挑该看的帧,成本最高降66%
旧办法:每秒一帧,整条视频全看一遍
理解长视频的传统做法是均匀采样。模型以固定帧率解码整条时间线,通常是每秒1帧,把全部视觉数据填进上下文窗口。视频越长,帧越多,上下文越长,费用跟着涨。
新办法:先转录、后挑帧,按需检查时间线
Agentic视频理解不沿用它。取代静态解码的是一个跑在服务器端的工具循环,视频不会提前全部加载。模型按需检查时间线、搜索转录、以自适应帧率抓取特定帧序列。需要时,也可以单独提取音频轨。
核心是 Think → Act → Observe 的迭代。模型先根据问题判断缺什么信息,决定检查哪些模态或时间戳。接着发出内部工具调用,只拉取视频的特定片段。片段作为观察结果返回,模型可以再细化一轮,也可以直接综合出答案。
初始开销很小。API不解码整个文件,只传一个轻量引用。初始上下文里只有元数据:时长、容器格式、文件ID。
对以语音为主的内容,模型先读带时间戳的语音转录,再决定要不要做视觉检查。需要看画面时,通过时间缩放只加载相关时间窗口,比如第14秒到第16秒。帧率也按需调整:快速运动用5到10 FPS,快速浏览用低至0.1 FPS。如果音乐、语气这类声音线索重要,就直接提取音频流。
更少的token,更低的账单,略高的准确率
三个数字能说明变化。相比静态1 FPS处理,agentic模式每个请求最多少用88%的token。长视频分析成本最多降66%,细粒度视觉推理的准确率最多提升7%。
此前大多数token都花在模型并不需要的画面上。标准视频分析基准上,agentic整体优于静态采样。
成本下降的关键在计费方式。视频输入token只按执行期间实际物化的部分计费。这些物化部分包括一个轻量初始引用,加上模型明确检索出的帧切片和音频段。思考token和输出token仍按标准费率。跨多轮会话加载的视频会触发标准隐式缓存,也支持显式缓存实例。
agentic适合什么,静态适合什么
默认建议直接用agentic模式,尤其是想优化响应质量或token效率的时候。
三个场景优先考虑它。第一类是长视频,大约5分钟以上。讲座、网络研讨会、财报电话会议、体育比赛、广播媒体档案都在范围内。第二类是细粒度时间任务,比如精确定位时间戳,或分析每秒1帧会漏掉的快速动作。第三类是语音和画面可以分开处理的查询,主要靠转录搜索回答,再针对性做视觉验证。
短视频不在它的优势范围。产品GIF、UI动画、社交片段这类需要全片帧级精度的短内容,静态模式依然合适。文档没说明的部分:视频长度上限是多少,实时视频流能不能用。
怎么启用、怎么计费
启用就是设一个参数:processing 设为 "agentic"。同一个提示里,每个媒体项可以独立配置处理方式。想比较一段长参考录音和一段短查询片段,把它们放进同一请求就行。也可以直接传公开可访问的YouTube URL,配合agentic模式一起用。支持Gemini 3.8 Flash、3.7 Flash、3.6 Flash和3.5 Flash-Lite。
跨多轮会话加载的视频会触发标准隐式缓存,也支持显式缓存实例。批量场景有额外折扣:agentic视频处理搭配Gemini Batch API,成本是标准价格的一半。
关键事实
- 传统的长视频理解依赖均匀采样,以固定1 FPS解码整个视频并填充上下文窗口。
- Agentic视频理解用主动的服务器端工具循环替代静态解码,按需检查时间线、搜索转录、获取自适应帧率的帧序列、隔离关键音轨。
- 相比静态1 FPS处理,agentic模式每请求最多减少88%的token消耗。
- 相比静态处理,agentic模式在长视频上的分析成本最多降低66%。
- 在细粒度视觉推理任务上,agentic模式准确率最多提升7%。
- Agentic视频理解采用迭代的Think → Act → Observe循环,通过引用传递视频,初始上下文只包含视频元数据(时长、容器格式、文件ID)。
- 模型根据用户提示决定需要哪些信息,并决定检查哪些模态或时间戳。
- 模型发出内部服务器端工具调用,获取特定视频片段,包括先读带时间戳的语音转录,再决定是否需要视觉检查。