用AI编程写文档?现在可以按分钟租容量,成本低至Claude的一成
Together AI给MiniMax M3上了个新服务——Provisioned Throughput(预留吞吐量)。团队按分钟租用推理容量,有99%的正常运行时间SLA。这是他们三种推理模式之一:Serverless Inference(按用量付费,容量尽力而为)、Provisioned Throughput(保留容量,有SLA)、Dedicated Inference(保留专用基础设施,适合微调模型)。三种模式用同一套API,切换不用改代码。
一分钟固定费率,成本低至Claude一成
Provisioned Throughput以PTU为单位购买,每个PTU每分钟0.05美元,提供固定的每分钟token速率。推理流量分三类:未缓存输入token、缓存输入token、输出token,每类消耗PTU容量速率不同。对MiniMax M3,一个PTU处理能力:未缓存输入138,840 TPM,缓存输入694,200 TPM,输出23,140 TPM。团队可以用Together AI的计算器,拿自己的请求量和token混合算一下需要几个PTU。
在满利用率下,MiniMax M3在Provisioned Throughput上的有效费率约为输入每百万token 0.36美元,输出每百万token 2.16美元。相比之下,Claude Opus 4.8的标准列表价是输入每百万token 5美元,输出每百万token 25美元——差了一个数量级。
三个典型工作负载的月成本模拟
Together AI模拟了三个生产工作负载:
- 编码代理:每次请求85K输入、450输出,80%缓存命中,每秒1个请求
- 支持代理:3K输入、500输出,50%缓存命中,每秒5个请求
- 文档管道:15K输入、800输出,20%缓存命中,每秒2个请求
三个工作负载在M3 Provisioned Throughput上的月成本分别是33K、24K、35K美元。而Claude Opus 4.8按列表价分别是342K、273K、428K美元——省了大约九成。不过这个数字不是普遍适用的。实际省多少取决于token类型组合和缓存命中率。缓存命中率越高,同样PTU容量能处理的token越多。
MiniMax M3专为编码和代理场景设计,支持100万token上下文窗口,原生接受文本、图像和视频输入,稀疏注意力架构让长上下文处理更高效。一次性输入整本技术文档或大量代码文件时不必分段。
怎么用
Provisioned Throughput最低期限一个月,更高承诺级别有折扣,具体折扣比例没公布。该服务已在北美、EMEA等地区可用。MiniMax全球业务总裁Linda Sheng说,这个服务让团队能以所需可靠性运行模型,并支持从封闭API迁移。
Together AI没提供M3预留容量与Serverless模式的实际延迟对比,也不清楚其他类型工作负载(如实时对话、图像生成)的成本表现。团队可以先用Serverless按量付费做开发,上线后切到预留容量——API一样,不用改代码。