硅谷团队花百万美元测不限量AI,结论出人意料
目前我在硅谷的 AI 训练/推理大厂带领一个 20 多人的团队,跟公司申请了预算100万美元,进行Token 不限量的激进实验, 这个帖子分享我在一线的使用认知和结论 结论是:Token 不限量不切实际,比人类贵很多,反而造成了在组织效率提升上,遭遇了明显的边际效益门槛。我预计 AI 真正的上行空间不在于单个组织消耗 token 冲破天际线,而在于基本的大盘子从 0 到 1 开始到 AI token 使用 AI 现在无法落地,有很大一部分是因为我们的公司不够 AI native,整个组织架构还是为人而设计的。因此,AI 的无预算上线使用出现了水土不服 > 先说数据: 最多的成员单日花费 Token $7,000,团队中位数 $2,000。
大家最喜欢的模型是 GPT-5.6 Sol Fast 和 Fable 5 Fast。算下来超过了大部分人的月工资,不可持续 > 今天跟团队每个成员都 1 对 1 过,说几个共性问题 1. 团队成员普遍反映比之前更累,真的很累,工资没变,干的活反而更多 在等待推理过程中,团队成员中位数大概会开 5 个 session 并行去使用,context 不断地转换,这对于人脑是一个很大的挑战 此外,人类去 review AI 产生的大量工作,也带来了非常大的负担 2. 未必所有工作都需要贵模型。模型路由非常关键,但便宜模型未必真的便宜 成员通常会将一些更偏向于快问快答、前期调研的任务交给 Grok 4.5(便宜、快)。
虽然等待时间更短,但来回反复的次数更多。很多贵模型一次能完成的事情,便宜模型要来回迭代,再加上之前多个 session 并行,反而造成了一种负担。总的调用量换算成价格,甚至比贵模型更贵 3. 团队的会议数上个月环比减少了将近 80%,整个团队好像变成了 AI 跟 AI 在对话工作 很多团队成员将自己的大脑都托管给 AI 了,因此有的时候对项目的细节掌握度、理解度都不够。
在会上别人问什么问题,人类完全无法 real-time 回答,所以更多地变成了 offline 的沟通方式——因为在 offline 情况下,收到问题之后才能去问 AI,然后再进行回答 个别情况下,群里出现了 AI 一通乱答,对面的 AI 再一通乱答,两个人直接聊偏的情况