Neolab模式要回本有多难？

新AI实验室的经济学分析。新AI实验室大致定义为：由AI研究者创立的初创公司，在产品落地前筹集大笔资金，用于负担GPU算力来解决大型AI问题。

要购买1000块GB300或大约14个NVL72机架，三年总花费是1.25亿-1.5亿美元，其中15%-30%需要预付款。这总共需要大约2-2.5兆瓦电力，算力足够一个季度完成10^25次浮点运算，训练出一个GPT-4级别的模型，和前沿预训练模型的差距在1-2个数量级。

如果你基于一个优秀的开源模型做后训练，追赶上前沿水平的机会更大。这里的风险是：a) 你还需要在强化学习环境上投入数百万美元；b) 你被绑定在底座模型上，其他新发布的模型会快速超过你。

要收回成本，你需要给客户提供比底座模型更好、且理论上更便宜的推理服务，并且运营足够长的时间来收回你的大额投资。按照Fable/Astra的定价，混合价格是每百万tokens 2美元，即使推理毛利率达到50%，要收回1000万美元训练成本，也需要服务大约10万亿tokens。而且你还要证明自己比Opus 5.5这类定价更低的发布版本更好。

通常，除了纯推理费用，你最终还要向客户收取高额的平台费和算力费。同时，GPU每一小时不投入使用，你都在烧钱，所以你一般会把闲置算力转售给经纪商，或是为开源模型运行推理、转售 spot实例。如果spot实例利用率低于60%，你仍然会亏损。除此之外，还有高昂的人力成本。

那么，你可以用这些算力做什么呢？
- 完全不参与做大模型竞争。
- 玩完全不同的模型游戏（比如Jev、World Labs），如果大实验室参与进来，要么会a) 侵蚀他们自己的业务，要么b) 带来的增量收入微不足道，c) 会对他们的核心业务造成太多干扰。
- 获取专有数据集（比如Peridodic Labs），在某个有用领域拿到足够大的数据量，做出超越前沿水平的模型。这种情况常出现在机器人、生物学、化学领域。

如果你克服了挑战，搭建出一个比大实验室模型更有用、定价也更合理的模型，鉴于算力成本高昂，你仍然需要选择一个领域，那里的收入/算力比足够可观，市场需求也足够大，能够让你收回算力投入。这是一场艰难的游戏。