Artificial Analysis发布各服务商缓存命中率及单任务成本数据(~9x)

目前在 Artificial Analysis 上已经更新了各服务商的缓存命中率和单任务成本数据：GLM-5.3 (max) 的单任务成本在不同服务商之间相差约 9 倍，这是缓存命中率和代币定价共同作用的结果。

智能体工作负载每一轮都会重发完整对话历史，因此大多数输入代币都是可缓存的，缓存定价和缓存命中率是造成单任务成本差异的主要原因。我们此前已经用实测缓存命中率计算单任务成本，现在我们会为我们追踪的每个模型端点发布这些数据。

更新内容：
➤ 所有第一方和第三方端点现在都可查看缓存命中率，我们通过运行多轮智能体编码任务、从各服务商的使用响应中读取缓存代币来测量该数据。缓存命中率是指从缓存中提供的可缓存输入代币占比。
➤ 开放权重模型现在可按服务商查看单任务成本，计算方式是使用各服务商的输入、输出、缓存命中和缓存写入价格，结合实测缓存命中率进行计算。为了跨服务商统一标准化给定模型的计算，我们使用该模型在 Intelligence Index 运行中得到的相同输入、输出和可缓存代币计数。

主要结论：
➤ GLM-5.3 (max) 的单任务成本在不同服务商之间相差约 9 倍，从 Makora 的 0.92 美元到 Nebius 的 8.68 美元不等。两家服务商几乎所有可缓存输入都来自缓存（分别为 98% 和 100%），并且输出定价相同（每 1M 代币 4.40 美元），因此差价来自输入定价：Makora 对每 1M 缓存输入代币收费 0.10 美元，而 Nebius 在其共享无服务器端点上不提供缓存输入折扣，所有输入都按全额 1.40 美元收费。

➤ 21 家服务商（25 个端点）的缓存命中率范围是 41% 到 100%。15 个端点的命中率达到 98% 及以上，其中 8 个达到 100%：Modal、DeepInfra、Parasail、Together AI、DigitalOcean、Nebius、Novita 和 Z AI 第一方 API。Multiverse Computing 命中率最低，为 41%，其次是 Bitdeer 的 50%。