AI Pulse

Altman:本地跑AI浪费,OpenAI锁定全球40%内存

Sam Altman 抛出一个判断:在自己电脑上跑 AI 模型,是对稀缺资源的糟糕分配。

他描述的是这样一种想法——开源模型出来了,问题就算解决了,本地能跑,数据中心可以不要了。他不这么看。从全球分配的角度,全世界每台电脑里都塞着一批 DRAM,利用率只有 5%,这是笔烂账。供应卡得这么紧,该做的是把云端利用率拉满。

他也清楚这话跟多数人的直觉反着来。

稀缺的到底是什么

反驳集中在这上面。有评论者说,资源不稀缺,稀缺的是把资源建起来的速度。另一条评论把矛头转回他的公司:有报道称,OpenAI 为一个数据中心项目锁定了全球约 40% 的 DRAM 供应。还有人认为,DRAM 紧张跟玩家那 64GB 内存条没关系,原因是晶圆厂把产能挪给了 AI 加速器要用的 HBM。这些评论落到同一个请求上——资源到底为什么稀缺,说清楚。

本地推理值不值

支持本地推理的人列的是具体好处:没有速率限制,服务条款不会说改就改,价格不会被单方面抬高,数据不出门。硬件利用率上云端可能更划算,本地换来的是隐私、控制权和独立性。

类比也跟上了。有人说他像房东:私下认定土地私有制对所有人都不好,对自己倒是挺好。更冲的一条是嘲讽——一边买走全球约 40% 的 DRAM,一边说本地推理浪费。

历史类比被反复搬出来:这就像 70 年代有人说个人电脑是个笑话,只有大公司才租得起。有人由此认定,AI 的未来只能是本地的。这条线上还挂着一个更大的设想:硅谷和华尔街握着 AI,结局是经济崩溃;握在普通技术爱好者手里,才是星际迷航那种社会。

对个人的不满也没藏着。有人明说,等 OpenAI 换掉 Sam Altman 的那天。

整场争论里,两边用的是同一个词,指的却不是同一样东西。Altman 说的稀缺是 DRAM 在全球范围内的分配效率,评论者说的稀缺是谁把这批 DRAM 先买走了。

关键事实

阅读原文
📚 相关主题 本地推理行业观点

订阅 AI Pulse

每天 08:00 · 12:30 · 18:30 · 23:50 更新