硅谷一线从业者梳理AI半导体投资三条路线
AI半导体投资第一性原理,其实就是在投 AI 变强的这条路上的瓶颈。这篇可以帮助你认知提升 我自身就在硅谷带AI 训练、推理团队。这个帖子我从一线第一性技术原理角度,解读一下过去算力、存储、互联的股票上涨原理,我的展望和布局。
希望你看完也有迹可循、能把好的标的拿住,看看是不是所有上涨时间线都符合我这三条路线的发展状态 三条路分别是 ① 预训练:把模型养大 ② 强化学习 RL:教模型推理 ③ 推理时算力:答题时多想一会儿 1/ 预训练(图 1) 当模型参数、数据、算力一起放大,模型的“底子”稳定变好。这就是过去3年 AI 的主叙事 算力越大,loss 越低,效果越好。一个 fun fact: 训练数据 token 数是参数量的 20 倍左右时候,效果最优。
70B 参数的模型就该配约 1.4T token。这就是著名的 Chinchilla 定律 但问题来了,撞上了两堵墙 1. 数据墙: 人类数据快被读完了。2. 经济墙:以前 10 倍算力换质变,现在 10 倍算力(几十亿美金一次训练)只换 loss 降 0.0x 预训练从投资角度来看,不会停止,但最赚钱的时候已经过了。
$SNDK $MU $NVDA 等等都是这个逻辑 2/ 强化学习 RL 这是最近业界的重要主线 原理:让 pre-train 好的模型自己刷题,做对了给奖励。这样现实生活中,agent 好干活 这就是为什么 $META 要录屏员工电脑,把员工蒸馏。因为员工的操作是宝贵数据 简单认为,RL 越多,数据越好,模型干活实际表现越好。
集群内部的通信量爆炸。海量 rollout 意味着模型权重、KV Cache 在机器之间反复搬运——东西向流量成为瓶颈 目前投入 RL 的算力,比预训练还小一到两个数量级——意味着这条坡还很长,各家实验室的增量算力正在往这里搬 RL 训练的主要工作量是 rollout——让模型海量“试做题”。而试做题,本质上就是推理负载,也就是推理时算力 3/ 推理时算力 token 消耗量指数增长,推理成本成为每家 AI 公司的 COGS(销货成本) 谁能把每 token 成本打下来,谁就有毛利。
整个行业从“融资竞赛”进入“成本曲线竞赛” 图三展现的曲线是,简单理解:相同模型,例如都是 Opus5或者 GPT 5.6,对于用户每次单次回答,投入算力越多,模型越聪明,投入少就更笨 有的时候你发现 Claude/GPT 变笨了,只是因为公司算力不够了偷偷降智。这就是为什么你能看到 $NVDA $AMD $MRVL $ALAB 等等出现持续新的增量, $NBIS $MSFT $GOOG 等自有算力,host 模型公司出现新增量 通信需要光模块 $LITE $COHR 而 内存的价值居高不下,因为持续的���耗 4/ 我的观点和操作哲学 资本开支的结构在变,从一次性超大训练集群,转向 RL rollout + 用户推理的持续性负载 预训练决定原材料 → RL 锻造解题能力 → 推理时算力临场兑现。任何一层的墙都会向下传导。
目前的状态是:第一条轴的投资曲线在往 2/3移动 而 RL 和推理时负载,我认为总量会超过第一阶段,目前还在需求的早期 提到的标的我都持续持有,没有任何长线卖出打算