GLM 5.2与AI利润率崩塌的来临(上)
这是一篇分为两部分的系列文章,聚焦于我认为AI经济学中最不为人所理解的即将到来的转变。如果你喜欢这篇文章并希望收到第二部分的通知,请随时订阅我的时事通讯。
真正的DeepSeek时刻已经到来
仿佛在数十年前,市场因DeepSeek的R1模型而恐慌。原因在于,据报道其底层V3模型的训练成本不到600万美元,因此市场认为模型训练资本支出的大规模投入已经结束,于是Nvidia等公司的股价一夜之间暴跌。
当然,这完全误读了AI成本的实际分布。训练——虽然无疑资本密集——是一项固定的前期成本。你花费数亿美元训练一个模型,然后就“完成了”。[1]
而推理则随需求扩展,具有真正的边际成本。过去一年左右,我已经详细讨论过这一点。主流对此的理解——即API供应商收取的费用就是他们的实际成本——也是错误的。
事实上,当Anthropic/OpenAI对推理收取25美元/MTok时,我的粗略计算表明,这相对于硬件标价可能有大约90%的毛利率。可能略高或略低(OpenAI泄露的财务报表显示收入毛利率约为60%,但这无疑包括支持、付款处理和其他服务等许多其他成本),但前沿AI实验室的整个商业模式大致是:在训练模型的计算和人员上投入大量资金,然后通过大量高利润的推理来摊销这些成本。如果你能通过足够多的推理摊销这些成本,你就能从基于COGS的盈利转变为……实际盈利。
过去几周,我一直在试用Z.ai的GLM 5.2。我相信GLM 5.2是第一个达到“标准”的模型,成为Opus和GPT(在撰写本文时,GPT的最新版本是5.5——未来的模型无疑会超越它)的真正开放权重竞争对手。
它确实非常出色,我很难区分它和我日常使用的Opus之间的差异。
我发现它由于进行的思考量较大而速度较慢。对于非交互式的智能体任务(如后台审查PR)这种对时间不敏感的场景,这不是问题;但对于交互式使用,它确实有点太慢了,难以保持我的注意力。这也在一定程度上降低了它的成本效益(更多的思考意味着更多的token,从而增加成本)。
它也不支持视觉功能。有趣的是,我从几乎不想使用视觉(因为以前它太不准确,当我发现它使用视觉时常常暂停会话),变成了现在一直使用它——自从Opus 4.7引入了更高分辨率的视觉能力。无法读取基于图像的PDF、截图和设计文件确实令人沮丧。我相信他们正在开发多模态模型,但这是目前相对于前沿实验室的一个重大弱点。
其次,我完全没有预料到的一个阻碍是缺乏/糟糕的网络搜索能力。事实证明,几乎每个智能体会话都会进行大量的网络搜索来查找信息。Z.ai提供了一个用于网络搜索的替代MCP,但它相当糟糕且缓慢。Fireworks没有提供任何此类功能,尽管他们给了我一个非常模糊的答复,说他们一直在寻求改进产品。我个人认为他们没有计划,但让我们拭目以待。
我通过告诉智能体使用基于CLI的网页搜索工具(如ddgr)来部分解决这个问题,但这目前确实是一个弱点。我非常看好第三方网页搜索API的潜力。这实际上是开放权重模型提供商所能提供的巨大差距,而且事实证明,优秀的网页搜索能力对于许多智能体任务至关重要。无论如何,这无疑会随着时间得到解决——有很多人在构建网页搜索索引,只需要正确的合作伙伴关系和基础设施到位。
即插即用的替代品
真正让前沿实验室感到恐惧的是迁移到开放权重模型的便捷性。Z.ai和Fireworks都提供与OpenAI兼容和Anthropic兼容的端点。这使得它们完全可以与Claude Code和Codex一起使用,只需将基础URL指向你的推理提供商,提供API密钥,然后告诉它使用GLM 5.2。
鉴于Anthropic最近宣布(然后又撤回)了对Claude -p非交互式智能体使用收取API费用的计划,你会发现对于许多/大多数此类用例,你可以直接替换为GLM。而对于交互式使用,除了缺乏视觉和速度较慢[2]外,我几乎无法意识到在Claude Code中我使用的不是Opus。
这不是微软或Salesforce那种需要花费数年计划迁移的锁定。转换成本极低,而且我认为实际上比试图跟上前沿实验室模型频繁更改的政策和条款要低得多。Claude Code可能会增加使用第三方提供商的难度,但有很多优秀的开源选项(如Codex本身和OpenCode等)。
企业用户的一个担忧是数据隐私和安全。毫无疑问,使用Z.ai的官方API和订阅几乎是不可能的,因为他们的条款充其量是薄弱的,并且与中国大陆有深厚的联系。但当然,由于开放权重是开放的,市场上还有许多其他提供商,许多具有适当的合同条款。而且,如果这还不够,你还可以在本地自行托管,这实际上使得那些无法发送给任何第三方的更敏感数据也能用于Opus级别的智能体工作流。
成本节省
GLM 5.2的现行价格大约在4.40美元/MTok左右。这不到Opus零售价的20%,大约是GPT 5.5成本的15%。鉴于对于给定任务它确实使用更多token,这不是完全对等的比较。但我非常惊讶如果它在几乎所有工作流中不比前沿模型便宜50%以上,同时提供非常相似的质量水平。
在订阅方面,Z.ai提供了一种“编程计划”订阅,与Anthropic和OpenAI的计划类似,但声称有更高的使用限制。我预计对于大多数专业用途来说,有关训练和数据保留的非常宽松的条款会导致销售困难,但如果前沿实验室试图大幅提高价格,我认为这对于预算有限的人来说是一个可信的选择。
我预计GLM 5.2的这些成本在未来几个月还会显著下降,因为服务栈的优化会进一步推进。Wafer写了一篇关于他们在AMD硬件上运行该模型的努力的有趣文章。他们认为在AMD上运行推理每token比Nvidia Blackwell便宜2.75倍。
第二部分将变得有趣——推理利润率崩溃实际上会对行业产生什么影响,以及谁可能赢、谁可能输。请记住贝佐斯那句著名的话:“你的利润就是我的机会”。如果你希望文章一发布就收到通知,请订阅我的时事通讯——或者使用RSS feed,如果你更喜欢的话。
披露:Fireworks友善地为我提供了一些免费额度,用于尝试GLM以帮助撰写本文。
[1] 这是一个简化——前沿实验室实际上在不断训练新模型以保持竞争力,所以这实际上是一项滚动成本,而非真正的一次性成本。不过关键区别仍然成立:与推理不同,该成本不随客户实际使用产品的量而扩展。
[2] 公平地说,速度慢主要是模型思考较多,而非服务本身——Fireworks以真正快速的token/秒推出了GLM 5.2,这是一个巨大的进步,值得关注,尽管在实践中我发现其实际速度有些不可预测。