Altman:本地跑AI浪费,OpenAI锁定全球40%内存
Sam Altman 抛出一个判断:在自己电脑上跑 AI 模型,是对稀缺资源的糟糕分配。
他描述的是这样一种想法——开源模型出来了,问题就算解决了,本地能跑,数据中心可以不要了。他不这么看。从全球分配的角度,全世界每台电脑里都塞着一批 DRAM,利用率只有 5%,这是笔烂账。供应卡得这么紧,该做的是把云端利用率拉满。
他也清楚这话跟多数人的直觉反着来。
稀缺的到底是什么
反驳集中在这上面。有评论者说,资源不稀缺,稀缺的是把资源建起来的速度。另一条评论把矛头转回他的公司:有报道称,OpenAI 为一个数据中心项目锁定了全球约 40% 的 DRAM 供应。还有人认为,DRAM 紧张跟玩家那 64GB 内存条没关系,原因是晶圆厂把产能挪给了 AI 加速器要用的 HBM。这些评论落到同一个请求上——资源到底为什么稀缺,说清楚。
本地推理值不值
支持本地推理的人列的是具体好处:没有速率限制,服务条款不会说改就改,价格不会被单方面抬高,数据不出门。硬件利用率上云端可能更划算,本地换来的是隐私、控制权和独立性。
类比也跟上了。有人说他像房东:私下认定土地私有制对所有人都不好,对自己倒是挺好。更冲的一条是嘲讽——一边买走全球约 40% 的 DRAM,一边说本地推理浪费。
历史类比被反复搬出来:这就像 70 年代有人说个人电脑是个笑话,只有大公司才租得起。有人由此认定,AI 的未来只能是本地的。这条线上还挂着一个更大的设想:硅谷和华尔街握着 AI,结局是经济崩溃;握在普通技术爱好者手里,才是星际迷航那种社会。
对个人的不满也没藏着。有人明说,等 OpenAI 换掉 Sam Altman 的那天。
整场争论里,两边用的是同一个词,指的却不是同一样东西。Altman 说的稀缺是 DRAM 在全球范围内的分配效率,评论者说的稀缺是谁把这批 DRAM 先买走了。
关键事实
- Sam Altman认为本地推理是稀缺资源的糟糕分配
- Altman指出很多人误以为开源模型可以在本地运行,因此不需要数据中心
- Altman认为全球范围内,让每个人电脑里闲置DRAM是糟糕的,因为利用率只有5%
- Altman主张在供应受限的环境下,应最大化云端利用率
- Altman承认许多人的直觉与他的观点相反
- 有评论者认为资源并不稀缺,稀缺的是建设速度
- 评论者认为本地推理的优势包括无速率限制、无服务条款变更、无涨价、数据不出门
- 有评论者将Altman的言论类比为70年代说个人电脑是笑话,只有大公司才能租用