Revolut把编码模型换成自托管GLM,账单降到原来的十分之一
你的 AI 编码账单,取决于模型跑在谁的服务器上。把模型搬到你自己控制的服务器,每 token 的价格就会降下来。
前沿实验室给自己的 API 定价。开源模型跑在你租用或自有的硬件上,成本就是硬件的成本;硬件越忙,每个 token 就越便宜。
2026 年 10 月 13 日,Revolut 负责 AI 运营的 David Abitbol 在 AI Engineer NYC 做了一场 15 分钟的演讲,讲大约 2000 名 Revolut 工程师如何使用 AI 编码工具。当他们跑在 Claude Code 上时,有些工程师每月花掉“一千美元,一万美元”。Revolut 的应对是设预算上限,这压住了账单,也限制住了工程师能用多少工具。
4 月,Revolut 把 GLM 设为默认编码模型。GLM 是中国实验室 Zhipu AI(Z AI)的开源权重模型,Revolut 在自己的基础设施上运行它。Abitbol 说,Revolut 现在用 56 块 Nvidia B200 GPU 为这些工程师提供 GLM 5.3,混合成本约为每百万 token 30 美分。他说账单大约是 Revolut 以前付给 Anthropic 和 OpenAI 的十分之一。
看看 Revolut 改了什么。工程师没变,编码工具没变,工作类型也没变,变的只是谁在运行模型。实验室的 API 按 token 收费,工程师用得越多,账单就越大。租来的服务器每小时收费相同,闲置一整天和工作一整天一个价,所以用量越大,每 token 成本越低。
第二点决定了自托管对你是否可行。Revolut 有 2000 名工程师,能让 56 块 GPU 保持忙碌。一个十人团队则要为一天大部分时间闲置的服务器付费。
本指南按 Revolut 的路径分六步走,每一步都带上算术,帮你算出自己的团队该在哪一步停下。
你会运行什么
先解释几个术语,下面每一步都会用到。
开源权重模型(open-weight model)指可以下载到自己硬件上运行的模型。权重就是训练好的模型本身,也就是你下载的那些文件。token 是词的一个片段,AI 公司按百万 token 收费。GPU 是运行模型的芯片,B200 是 Nvidia 当前的数据中心 GPU,显存 180 GB。
Zhipu AI 发布了两个在这里用得上的 GLM 模型。
GLM-5.3 是大的那个。它的 Hugging Face 页面列出 7530 亿参数,也就是模型在训练中学到的那些数字。按每参数 8 bit 算,大约 753 GB 文件;按 4 bit 算,大约是一半。
GLM-5.3-Flash 是小的那个,总共 3200 亿参数,每写一个词用到 180 亿。Zhipu AI 的模型页面称它“在编码和 agentic 基准上接近 Claude Opus 4.8”。这是 Zhipu AI 自己的说法,请在你自己的工作上测试。
Abitbol 说 GLM 能放进四块 GPU,八块性能更好,因为四块留给模型工作内存的空间太小。
第一步:先量清楚你现在花多少
Revolut 在切换前就知道自己的账单,因为账单本身就是问题。
从你的开始:
1. 打开 Anthropic 或 OpenAI 控制台的使用页面,导出上个月的支出。
2. 记下总金额、发送和接收的 token 数,以及发送的 token 里有多少是缓存命中。缓存命中(cache hit)指模型已经读过的文本,API 对它收费更低。
3. 用总额除以使用这些工具的工程师人数,这就是每位工程师的成本。
Anthropic 的定价页列出 Claude Opus 5.5 为每百万发送 token 4 美元、每百万接收 token 20 美元,Claude Sonnet 5.5 为 2 美元和 10 美元。编码工具发送的 token 远多于接收的,因为它们会反复重读你的文件,所以缓存命中率对总额的影响比标价更大。
把你的每位工程师成本与 Revolut 的重度用户比一比,他们每人每月花 1000 到 10000 美元。如果你整个团队每月只花几百美元,自托管回不了本,你可以直接在第二步停下。
第二步:先用 API 试 GLM
在租哪怕一块 GPU 之前,先弄清楚 GLM 能不能胜任你的工作。
Zhipu AI 通过自己的 API 出售 GLM,也就是把请求发到它服务器的付费连接。Zhipu AI 的定价页列出 GLM-5.3 为每百万发送 token 1.40 美元、缓存输入 0.26 美元、每百万接收 token 4.40 美元。GLM-5.3-Flash 是发送 0.15 美元、接收 0.50 美元。按 token 算,GLM-5.3 的成本不到 Claude Sonnet 5.5 的一半。
Revolut 通过 OpenAI 兼容端点提供 GLM,所以为 OpenAI API 写的编码工具可以直接与它对话。Abitbol 点名了 OpenCode、Codex 和 Codex 应用。
要让 OpenCode 指向一个 GLM 端点,使用 OpenCode 文档里的 custom provider 部分。
1. 在 OpenCode 里运行 /connect,选择 Other,给 provider 起个名字,粘贴你的 API key。
2. 打开项目里的 opencode.json 文件,用 AI SDK 的 openai-compatible 包添加这个 provider,把 endpoint 地址作为 baseURL,模型填 GLM。
3. 运行 /models,确认 GLM 出现在列表里。
给几位工程师一周的真实任务。跟踪他们有多少任务不用切回 Claude 就能完成,以及每个答案的第一个词要多久才出现。
这一步有一个代价。Zhipu AI 的 API 会把你的代码发到 Zhipu AI 的服务器。Revolut 下载权重,在美国自己的基础设施上运行,Abitbol 说它不使用把数据发往中国的端点。如果你的代码是私密的,在发送之前先查清楚任何托管方把你的数据存在哪里。
对小团队来说,这一步就能省下大部分钱,因为每 token 更便宜,而且你不用跑任何服务器。
第三步:算盈亏平衡
当每月的 AI 编码账单高于服务器的月成本,并且你的工程师能让这些服务器保持忙碌时,自托管才开始划算。
Lambda 的定价页列出 B200 GPU 在 8 GPU 机器上每 GPU 每小时 6.69 美元,4 GPU 机器 6.79 美元,2 GPU 机器 6.89 美元。按一个月 730 小时算,结果如下:
- 2 GPU 机器每月约 10059 美元。
- 4 GPU 机器每月约 19827 美元。
- 8 GPU 机器每月约 39070 美元。
现在把你的团队放到这些数字旁边。20 名工程师每人每月 1000 美元,共 20000 美元,差不多是一台 4 GPU 机器的价格。10 名工程师每人 1000 美元是 10000 美元,而第二步里通过 API 用 GLM 的成本远低于租一台服务器。
Revolut 在另一端。按 Lambda 的 8 GPU 价格,56 块 B200 每月约 273487 美元。Abitbol 没说 Revolut 是租还是自有 GPU,所以把这个数字当作大致量级。按每百万 token 30 美分算,这么大的账单能覆盖每月约 9000 亿 token,这种量只有大型工程团队才产出得出来。
按这些数字,租用大约在 20 个重度用户时开始回本。低于这个数,API 更便宜。
第四步:在租来的 GPU 上跑试点
先按小时租,这样一次失败的测试只花掉你几天的服务器时间。
1. 在 Lambda 租一台 4 GPU 或 8 GPU 的 B200 机器。
2. 安装 vLLM(免费提供模型服务的工具),用 Zhipu AI 模型页上的一行命令启动 GLM。
3. 像第二步那样,把 OpenCode 指向服务器的地址。
4. 给 5 到 10 名工程师两周的访问权限。
5. 晚上和周末关机,因为机器运行的每个小时都要付费。
试点期间跟踪两个数字,它们决定工程师会不会继续用下去。Abitbol 说 Revolut 的目标是答案的第一个词在 3 秒内出现,超过 5 秒工程师就开始抱怨。他说每秒约 200 token 对于有人实时使用工具来说已经够快。
两周结束时,把服务器账单和这些工程师上个月在 Claude 上的花费做对比。
第五步:先调优,再加 GPU
当答案感觉慢时,最直觉的解法是加硬件。Abitbol 警告不要这么做。“你真的需要抵制扩容的冲动,”他说。Revolut 调优自己的配置之后,他的幻灯片显示每秒请求数提高了 76%,等待第一个词的时间从 14.26 秒降到 1.68 秒。
他点了四项改动:
1. 按编码任务实际用量设定上下文窗口大小。上下文窗口(context window)是模型一次能读多少文本。Abitbol 称长上下文对这类工作是“一个骗局”,因为更大的窗口会占用本可以服务更多工程师的显存。
2. 在 B200 上以 4 bit 存储权重。他说这比 8 bit 少用约 40% 的 GPU 显存,且“精度零损失”。依赖这个说法之前,先自己检查输出质量。
3. 如果四块 GPU 留给工作内存的空间太小,就把模型拆到八块 GPU 上。
4. 把缓存命中率保持在 90% 以上。编码工具会一遍又一遍重发相同的文件,高命中率让模型不必每次从头读它们。
调优只花时间,不花钱。在租第二台机器之前先做这件事。
第六步:保留例外和护栏
Revolut 并没有把所有东西都迁到 GLM。
GLM 只读文本,所以 Revolut 把图像任务发给 Gemini 等其他模型。Claude Code 和 Codex 作为例外保留给最难的任务。默认模型处理大部分工作,昂贵的工具处理剩下的部分。
Revolut 是一家受监管的银行,Abitbol 描述了它在模型周围设置的控制:
- 有人审查工作成果,AI 不自行行动。
- 沙箱限制 AI 能运行什么,规则类似“允许 grep,但不允许 gradle”。
- 详细日志记录每一次会话,团队事后可以追查问题。
他点名的风险是内部人员滥用和提示注入(prompt injection,用隐藏文本欺骗模型),这些控制就是用来防它们的。自己托管模型,这些控制就掌握在你手里,所以即便你的公司不是银行,这三项也都要设置。
动手之前先读许可证
GLM-5.3 采用 GLM-5.3 License,这是 Zhipu AI 的自定义许可证。
- 它允许你使用、复制、修改和销售你基于该模型构建的东西。
- 你必须在模型的副本中保留 Zhipu AI 的版权声明。
- 把 GLM 作为服务提供给其他公司运行的公司,必须先通过 Zhipu AI 的安全审查,但仅当其在 12 个月内收入超过 100 亿美元时才适用。
GLM-5.3-Flash 采用 MIT 许可证,是最简单的开源许可证之一。
两个许可证都允许本指南中的一切内部用途。在你把模型访问权卖给其他公司之前,先读全文。
盈亏平衡提示词
这段提示词(prompt)能算出托管 GLM 是否帮你团队省钱。把它粘贴到开启联网搜索的 ChatGPT 或 Claude 里,并填好方括号中的内容。
在你注册任何服务之前,到各家的定价页上核实它给出的每一个价格。
哪种方案适合你的团队
Revolut 的路径有三个停靠点,你的账单会告诉你哪一个属于你。
- 如果你的 AI 编码账单每月低于约 10000 美元,就通过 API 用 GLM,最难的任务保留 Claude。
- 如果你有 20 个以上的重度用户,或者你的代码不能离开自己的服务器,就在租来的 GPU 上跑两周试点,并在加硬件之前调优。
- 如果你有数百名工程师,就一路跟随 Revolut:让 GLM 成为默认,把昂贵工具留作例外,从第一天起就运行护栏。
拿出上个月的 AI 编码账单,把它放在 19827 美元旁边,那是一台租来的 4 GPU 服务器的月价。
LLM 不会思考,思考的是你。