CopilotKit 开源 aimock 帮 teams 省大笔API费

Anthropic 不会喜欢这个开源仓库。它会给 LLM 提供商省下一大笔钱。

如今，AI 应用的每一次 CI 运行都会向 OpenAI 或 Anthropic 这类提供商发送真实请求。和其他任何 LLM 调用一样，这也会按照实际 API 费率计费。因此对于提交量很大的团队来说，这笔费用会累积成 API 支出中相当可观的一部分。

开发人员常用的一个小技巧是，测试时不调用 LLM API，而是调用一个兼容相同API的本地假服务器，让它返回虚拟响应。问题在于，虚拟响应是提供商响应保存当天的副本，而提供商会不断添加字段、修改类型。

因此测试会在已经失效的 schema 上一直通过，实际集成却在生产环境中崩溃。

现在 @CopilotKit 最近开源的 aimock 项目实现了一种聪明的方案。

每天，该仓库自己的 CI 会向真实 API 发送少量请求，同时向假服务器发送相同的请求，然后将两者和官方客户端库的类型定义进行比对。整个架构里只有这些是真实API调用，而且它们用仓库自己的密钥运行，不在任何其他人的 CI 里运行。

一个团队一天就能推送数百次提交，现在已经有成千上万个团队在使用编码代理这么做。所有这些 CI 运行都可以保持离线，因为有一个仓库代表所有人去和真实API做校验。

当校验失败时，编码代理会更新 aimock 内置的响应 schema，整个测试套件必须通过，之后才会向 npm 发布一个补丁版本。只要升级这个包，修正后的 schema 就会同步到所有使用它的项目里。

这个能力不局限于单个提供商。同一个假服务器可以支持 Claude、OpenAI、Gemini、Bedrock、Azure、Ollama，还有 MCP 工具、A2A 代理、AG-UI 事件流、Pinecone 和 Qdrant 这类向量数据库，以及搜索、语音、图像和视频端点。

仓库链接在这里：（别忘了点星标 ⭐）

话虽如此，mock API 调用是一回事。AI 工程师首先也得知道如何正确测试代理，而不少团队至今都跳过这一步。我写了一份完整的教程，涵盖构建、测试、评估、追踪和部署。往下阅读即可。