开源模型打价格战,半导体营收会受影响吗?
AI半导体终局推演(IV) 开源模型的兴起对半导体有什么样的影响?会不会降低半导体的营收?这可能是最近半年市场争辩非常激烈的问题 开源模型token占比可能已经超过两成而且在加速,价格只有闭源旗舰几分之一。
每一轮新开源模型发布,市场都要重新算一遍:token越来越便宜,模型公司还赚得到钱吗?模型公司不赚钱,谁来买那么多卡?这个问题如果从静态角度看待,确实是矛盾的: 一方面,更便宜的模型会让更多人使用AI,所以需要更多算力 另一方面,开源会把OpenAI和Anthropic的价格打下来,模型公司赚不到钱,谁来为后面几年的巨额CapEx买单?
-------------------------- 一、开源会伤害半导体吗?把市场的担心拆开,其实是两种说法。第一种:开源会把premium token的价格也拉下来。
闭源两家(OpenAI和Anthropic)的ARR受损,靠融资、靠借钱“透支未来”去买算力的能力,也会跟着下降。第二种:开源靠价格战抢市场,抢走太多份额,但自己的营收和毛利太低,整个模型层对半导体的支付能力被拉低,开源厂商自己的融资和发展速度也会受影响。开源token也是token,消耗的同样是真实的算力,相似尺寸的模型,开源的算力消耗还要少一些,比如DeepSeek有sparse attention这类优化。
但对半导体���说,真正重要的不是开源还是闭源,而是用卡的人赚不赚钱。毛利率是影响大家抢购芯片热情最重要的因素,几乎没有之一 毛利够高,抢到就是赚到,买得越多赚得越多 毛利超过70%,买的GPU一年回本,每一个GPU都是印钞机。毛利如果只有50%,也可以承担更多融资的风险,去贷款买得更多 所以问题就变成了:开源会不会把毛利率打下来?
如果只看静态的token价格,答案似乎是会:价格一直在跌。但我们不能以静态的眼光看问题,看token经济学,需要一个动态的framing -------------------------- 二、token经济学的动态平衡:成本降得和价格同样快 token一直在降价,这是事实。但成本降得同样快,这也是事实。
毛利在维持,成本在下降,售价在下降,用量在上升 这是全文最核心的判断:每一代模型、每一代硬件迭代之后,都会回到一个新的平衡。我们可以叫做token经济学的动态平衡。我们不能以静态的眼光看问题,token的指数型通缩,是AI时代的动态背景板 还是那句话,AI时代的token优化进步十年加速六个数量级,软件/算法加速三个数量级,硬件加速三个数量级 老黄在2023年就讲过,硬件和软件,每十年加速一百万倍,靠的是互联、内存、封装、PCB、架构、制造的全方位进步,合起来一百万倍 相当于软件,硬件各自每十年加速1000倍 这条定律在过去十年得到了应验:硬件过去十年进步的1000倍,细细分解一下,半导体工艺大概有3倍提升,类似DP4/HMMA/IMMA这样的复杂指令加速了大概10倍,从数据精度类型方面的优化是8~16倍(FP32 -> BF4, MX4),以及sparsity方面的优化都有帮助 到现在看硬件提升速度仍然在维持:HBM的带宽和size升级换代在加速,Advanced Packaging各种3D架构花样翻新,光互联的带宽指数提升,延迟和功耗下降,功耗标准以及散热技术的快速提升,都在配合维持这个历史的背景板 落到具体: 1. 硬件每一代都让token throughput翻倍,Blackwell对H100甚至是4倍,也就是让token的单价降一半,Vera Rubin最近也开始了测试,从GTC到hotchip上的展示来看,token throughput基本上也是能翻倍的 2. 软件对同一代模型,每年甚至每半年,再让价格降一半甚至3/4,KV cache压缩、模型层的各种优化都在持续进步。
token本身也在变得更值钱,5.5这��代的token efficiency大幅提高,同样的任务消耗的token更少,而单个token的质量还在变好 只要有竞争,大家都会拼命在相同效果下降低成本,所以边际毛利主要靠软硬件的持续优化来维持 即便是开源模型,毛利也能保持在非常可观的程度 -------------------------- 单GW unit economy的硬件账本 把这件事落到一个GW上算,会更直观。市场可能低估了目前token 的整体毛利。最新B300跑前沿旗舰模型,推理效率非常高,1GW一年能卖出80B以上的token revenue。
到了Vera Rubin,单位电力的token throughput至少还能再提升50%到100%,每GW能卖到120B甚至更高。每GW的毛利率还会继续上升。当然,明年实际未必真卖到这么高,两家之间仍有竞争,旗舰token可能还是维持在80B一个GW左右。
即便如此,旗舰token推理的毛利率维持在75%甚至80%以上。Anthropic今年推理收入预期可以达到50B/GW,明年甚至blended都可能提高到80B/GW。在这样的毛利下,抢算力是没有什么顾忌的 开源的token 毛利没有那么高,按官方售价来算。
大概只有60%到70%,每GW的年化收入仍然能在50B以上 最近开源模型因为Sol 6.1以及 Opus 5.5的斩杀线太过于强势,降价很明显,有巨大的毛利压力。但我认为开源模型毛利承压的窘境是暂时的,比如DeepSeek最近优化了Flash 4.1之后,毛利重新站上了70% 再看成本端,现在的硬件成本摊到6年,每年才8B/GW左右。收入是硬件摊销的十倍,这就是为什么neocloud的短约最近能租到每年40~50B/GW的天价,因为token真的能卖到更高价格 硬件就算再提价,也不容易打破这个平衡,token收入和硬件成本之间这块巨大的空间,就是下一篇AI infra/半导体内战要分的蛋糕 这个动态平衡从2023年就一直存在 GPT-4的价格每年降10倍,两年降了100倍,新一代旗舰凭卓越的性能维持定价权,token ~50/M,旧一代开始大降价 如果说token通缩,通缩一直都在,但这个游戏反而更健康了:单位token带来的生产力和价值一直在提高,ROI一直在变好,帮助了渗透率和用量 移动互联网时代的手机芯片,也是这样走过来的 所以要把token降价当作常态,当作一块移动的背景板,即便token降价、减半,通过降本仍然能很大程度的维持平衡。
而降价又带来了更多用量,增加整体营收 对AI infra来说,这个平衡最大的好处是维持住了毛利率,而毛利率是维持大家对硬件热情最重要的因素 -------------------------- 三、value tier token是commodity,但premium tier token不是,这是两个完全不同的赛道 动态平衡回��了“降价会不会打穿毛利”。但开源会不会影响闭源最赚钱的那部分旗舰token收入?我认为不会,因为value tier和premium tier,是两条完全不同的赛道。
value tier就是commodity,大家拼命地卷。只要有一家设定了新的“斩杀线”,其他家都得跟进。官方售价表面上可能没变,但OpenRouter上