管AI智能体的平台来了,token成本能砍一半
一家公司里,可能同时跑着好几个AI智能体:有的负责自动回邮件,有的负责整理报表,有的在后台爬数据。每个智能体都在偷偷烧token(可以理解为AI处理文字的计费单位),但没人说得清每个月到底花了多少、花在哪了。
刚成立的Nasiko,就是冲着这个问题来的。这家总部位于美国加州帕洛阿尔托的私营企业,2025年才注册,属于科技信息与互联网行业,LinkedIn官方账号目前有5667名关注者。它推出的Open Runtime平台,主打把所有AI智能体收拢到一个地方统一管理。
@nasikolabs 官方账号把功能拆成了四件事:能看到每一个正在运行的智能体;最高砍掉50%的token支出;通过智能体网关把任务分配给最合适的模型;按智能体、按团队设置工具访问权限和预算。整个流程一条命令就能跑起来。
@hasantoxr 认为:这对所有在跑AI智能体的人来说都是大新闻,终于有个地方能把它们全管起来。@socialwithaayan 则点出了团队最关心的那块——终于有了成本视图,能找出公司里所有在跑的智能体,按团队看每一笔开销。
在基于服务器日志的测试里,这套Open Runtime工具在把长文件送进AI模型前,会先裁掉非必要部分,单任务成本下降了40%。
对已经在公司里铺开AI智能体的团队来说,以前更像是每个部门各自买了一堆AI服务,账单散落在各处,权限也没人统一管。现在这套平台相当于给所有智能体装了一块统一的仪表盘,谁在跑、花了多少钱、能用哪些工具,都能在一个界面里看到。
不过,刚成立的公司、刚上线的平台,能不能接住企业级的稳定性要求,还要看后续的实际运行。当所有智能体都被收拢到一个平台上,下一个问题会是什么?