Cloudflare推出AI网关,还投了百万美元支持开源
今天是 Cloudflare Agents Week 的最后一天,这一周真的发布了超多公告!我们为这一周做收尾的内容包括:🤝 AI Gateway:统一智能路由 🤝 🧡 社区:100万美元开源资金 + 大使计划 🧡 🌎 Radar Researcher:通俗易懂的互联网数据 🌎 🕵 揭秘智能体的好行为与坏行为 🕵️ 我们来逐个仔细看看!
🤝 统一 Workers AI 与 AI Gateway 🤝
AI Gateway 一直是我最喜欢的 Cloudflare 产品之一。它能做太多工作,而且还可以免费使用——这对我来说太不可思议了,它的速度还极快。和 AI Gateway 搭配的是 Workers AI,也就是 Cloudflare 的全球分布式推理平台,托管着全球领先的开源模型。
今天,Cloudflare 公布了将这二者整合为单一统一产品的计划。你将能够连接任何模型提供商(包括 Workers AI),同时从单一控制平面管理可观测性、账单、安全和日志等所有事项。
部分工作已经完成,Workers 中的 AI 绑定和 REST API 已经拥有统一接口。你也不再需要手动创建 API Gateway,只要传入默认参数,Cloudflare 就会为你即时创建一个。
随着 Unified Billing 上线,你已经可以往账户预存额度,用于在第三方模型提供商消费。从今天开始,这些额度也可以用于消费 Workers AI 模型了。Unified Billing 是推荐方案,如果你使用 AI Gateway 统一账单,还可以获得 Workers AI 模型的更高速率限制。
所有这些都为后续功能铺路。很快,你就可以指定你想要的模型,Cloudflare 会把请求路由到最合适的提供商来处理。但这还不是全部,因为为特定任务选择合适的模型不是一件容易的事。
无论你是工程师、营销人员还是高管,大多数时候你可能都会选择强大的前沿模型。这其实非常浪费,因为很多任务并不需要前沿模型的智能水平。这就是智能路由要解决的问题,它很快就会登陆 AI Gateway。Cloudflare 会对请求分类,为你的请求路由合适的模型,帮你节省时间和金钱。
🧡 社区:100万美元开源资金 + 大使计划 🧡
Cloudflare 社区充满活力,覆盖 X、Discord 和众多开源项目。今天,社区项目有一系列更新。首先是推出了 Cloudflare 大使计划。每年任何人都可以申请成为 Cloudflare 大使——也就是对 Cloudflare 生态有深入了解、充满热情的人。
入选的大使将获得支持、资源和福利,帮助他们的社区蓬勃发展,实现他们的想法。申请现已开放,将持续到 9 月 6 日!除了大使计划,我们还推出了社区工程师项目。这个项目聚焦开源社区完成的出色工作。Cloudflare 开发者平台很多部分都建立在开源工作之上,或者本身就是开源项目,比如 workerd 和 quiche。
Cloudflare 承诺在未来两年投入 100 万美元资金,赞助和支持开源项目,符合条件的社区工程师可以从该基金获得资助,支持他们继续开展开源工作。资助申请将在晚些时候开放,最初重点聚焦 Cloudflare 生态内的项目。
最后,Cloudflare 的 Discord 服务器成员数即将达到 10 万。各种各样的人都会来到 Discord 寻求帮助,讨论所有和 Cloudflare 相关的话题。新的 Discord 委员会将帮助维护和发展 Cloudflare 的 Discord 社区,Cloudflare 大使将和 Cloudflare 员工一起加入委员会。
委员会主要不是承担 moderation 工作,大部分 moderation 工作已经由一堆新工具接手了,这些工具很快也会开源。相反,委员会将帮助连接在 Cloudflare 构建和管理产品的人员建立有用的连接。他们可以把用户和对话引导给领域专家,组织社区和内部团队、创作者开展对话和活动。
🌎 Radar Researcher:通俗易懂的互联网数据 🌎
如果你从来没有用过 Cloudflare Radar,那你真的错过好东西了。它是获取互联网事件洞察的超棒工具。它拥有的数据量太大,很难知道该从哪里开始。幸运的是,你不再需要手动翻找数据了。Radar Researcher 今天开启 beta 测试,已经可用了。
你只需要用通俗易懂的语言描述你想查看什么,Radar Researcher 就会把你要的数据整理成清晰易读的格式返回给你。官方博客深入介绍了可以试用新工具的用例,还从技术角度介绍了它的构建过程——非常值得一读!
🕵 揭秘智能体的好行为与坏行为 🕵️
随着浏览互联网的 AI 智能体快速增长,区分好智能体和坏智能体变得越来越难。在某些情况下,同一会话中甚至可能同时存在人类和智能体行为。Cloudflare 对行为而非身份进行判断。
这个框架将风险和信任分开,目标是奖励好行为,拦截滥用。BotBase 是一个已知所有机器人(好的和坏的)的目录,已验证意味着机器人诚实声明自己的身份,不滥用获得的信任。不过信任是双向的,如果行为变坏,验证资格会被取消。
在检测坏行为方这方面,Precursor 负责这项工作。它在整个会话过程中持续进行客户端行为检测。有一个非常有意思的演示可以试用,叫做 Precursor Trace,可以实时给你打分。这个领域还有更多功能即将推出。Adaptive Intelligence 是一个自我更新的机器人检测模型,持续学习。
还有一个给站长的新工具,它超越了简单的 403 拦截。相反,机器人会收到随机响应,AI 迷宫,合法智能体会进入队列,所有这些功能都将在今年晚些时候推出。
Agents Week 就到此结束了,我希望你喜欢所有的公告(我当然非常喜欢!),也期待看到大家用这些工具构建出什么东西。你觉得本次 Agents Week 最让你印象深刻的公告是什么?
本文由 AI 翻译自英文原帖,技术名词保留英文。
查看 X 原帖