Cloudflare Agents周首日更新,支持Kimi大模型部署
又到了一届新的 Cloudflare Agents 周,和往常一样,我会每天给大家汇总所有发布内容!第一天带来了这些内容:💻 Cloudflare Computer 🔗 Workers 和 Containers 支持入站 TCP 与 gRPC 💰 Billable Usage API 🐍 Python Workers RPC ⚖️ 规模化运行 Kimi 与 GLM
我们来逐个了解!
💻 Cloudflare Computer 💻
Agents 需要访问某种文件系统来完成工作。并非所有场景都需要,但很多常见用例(比如编码 Agent)确实需要。
有时它们需要容器提供的完整文件系统,才能运行 npm 这类操作。如果你只需要编辑文件并提交到 git,就可以用运行在隔离环境中的轻量级文件系统——它比容器便宜得多。
Cloudflare 推出的全新 computer 包可以同时访问这两种文件系统,让 AI 代理选择最适合当前任务的文件系统类型。文件系统本身存储在大家都喜欢的原语中:由 SQLite 支持的 Durable Object。
对文件系统的任何修改,无论是在隔离环境还是容器中,都会同步回 Durable Object。该包今日已开放早期预览。
🔗 Workers 和 Containers 支持入站 TCP 与 gRPC 🔗
你会用语音听写和 AI 代理或 ChatGPT 对话吗?如果会,那它底层很可能就在用 gRPC。同样,TCP 可以满足很多 HTTP 完全不适用的场景。
你有没有想过在 Cloudflare Workers 上搭建数据库连接池?你需要能够处理入站 TCP。好消息是,Cloudflare Workers 和 Containers 现在已经同时支持 gRPC 和入站 TCP,今日起开启非公开测试!
今天公布了三项更新:
- 在 Cloudflare Workers 中直接支持 connect(socket),通过 Spectrum(Cloudflare 用于非 HTTP 流量的入口代理)为入站 TCP 连接提供新处理器
- Cloudflare Containers 支持全双工双向 gRPC
- Workers 可以提供一元和服务器流式 gRPC API,还能调用 gRPC 服务器
我猜大家可以用这些新功能搭建出很多有趣的东西,我已经迫不及待想看你们做出来的成果了!
💰 Billable Usage API 💰
在 AI 代理可以几分钟内就把代码部署到生产环境的世界里,你需要精准追踪自己的开销。代码审查时漏掉的一个小错误(你确实会逐行读代码对吧?)都能很快让成本失控。
Billable Usage API 今日正式上线,允许非企业客户通过 Cloudflare REST API 以编程方式查询你的用量。响应中你会看到按产品拆分的明细,以及计费周期和关联区域信息。
今天还公布了和 Vantage 的全新合作,你可以为你的账单开通只读权限,Vantage 会导入数据、生成报表,甚至在支出异常时发出提醒。AWS 和 Azure 等其他主流云服务已经有类似的 Vantage 集成。
这只是计费模块相关工作的开端。
本文由 AI 翻译自英文原帖,技术名词保留英文。
查看 X 原帖