vaibhavbetter开源Arbr,夺回AI控制权
今天我们发布 Arbr。如今所有在用 AI 构建产品的团队,都在悄悄失去控制权。他们无法掌控自己运行的模型,无法掌控自己的数据,也无法应对供应商调价、停更模型,或是发布会破坏生产环境的更新这类突发情况。
Arbr 就是为了夺回这些控制权而生的。我们直接说出它的本质:独立。摆脱模型锁定,实现独立。可以将所有请求路由到任意供应商,无需重写技术栈就能切换模型。
摆脱供应商锁定,实现独立。项目支持自托管,采用 MIT 许可证。它能运行在你自己的基础设施上,而不是你租用的 SaaS 服务上。
摆脱模型迭代混乱,实现独立。每周都会有新模型发布。你可以按自己的节奏,安全地进行阴影测试并接入新模型,不用拿生产环境赌版本更新。
摆脱盲目摸索,实现独立。你可以查看所有请求,在真实流量上评估质量,把你学到的经验转化为你自己拥有的训练数据。
Arbr 是面向 AI 工作负载的开放控制平面。路由、管控、观测、评估、数据采集、部署,全部功能都支持自托管,全部都是开源。
闭源栈从来没法给你独立性,所以我们打造了这个开源项目。现在才是第一年,欢迎你试用它,如果它合你心意就给项目点个星,也请告诉我们哪里出了问题。
链接放在第一条评论里。
本文由 AI 翻译自英文原帖,技术名词保留英文。
查看 X 原帖