GPU竞争加剧,英伟达的优势不止GPU
英伟达的AI优势正在超越GPU本身
在这周之前,关于英伟达的主流叙事大致是这样的:在AI热潮的最初几年,英伟达是尖端GPU的唯一来源,随着行业规模扩张,这变得极其有利可图。最近几年,亚马逊和谷歌等超大规模云服务商开始自研芯片,英伟达不再是唯一的玩家,这让许多投资者怀疑它的优势究竟能持续多久。
这是一个引人入胜的故事,而且在很大程度上属实。英伟达的市值在2023年初至2025年年中期间增长了10倍,但过去一年其股价走势趋于平缓,原因是市场对GPU竞争的担忧。
自该公司周三发布财报以来,一种新的叙事正在形成,投资者开始意识到,英伟达的优势远不止于GPU。随着AI的计算规模扩展到吉瓦级别,编排(orchestration)正变得越来越复杂。毫不意外的是,英伟达已经构建了应对这一挑战所需的大多数尖端硬件,这使公司在GPU周边的系统领域拥有巨大优势,即使在GPU本身面临日益激烈的竞争之际。
尽管人们总说算力正在变成大宗商品,但要高效运营一个超大规模数据中心仍然极其困难——而且随着部署规模越来越大、速度越来越快,这一挑战只会不断加剧。
逐机架推进
只需看看英伟达实际销售的产品细节,就能窥见端倪。该公司目前正在推出其Vera Rubin架构,该架构将Rubin GPU与一系列其他单元配对,包括Vera CPU、Groq 3 LPX推理加速器,以及类似的存储和网络机架。
过去一周,我与英伟达的相关人士讨论了这些系统实际能做什么,结果令人惊讶。与Rubin GPU本身一样,这些系统高度专业化,但它们不是用于处理token,而是确保GPU之外的一切能够尽可能高效地运行。如果GPU是发动机,这些就是汽车的其余部分。
Vera CPU尤其专注于数据编排问题。英伟达存储技术副总裁Jason Hardy告诉我:“Vera之所以重要,是因为你在一台服务器或任何计算平台上能放的内存是有上限的。”
随着数据中心扩展计算能力,内存容量也同步扩展,这正是美光(Micron)等公司在基础设施热潮第二波中获利丰厚的原因。但要在正确的时间将数据送到GPU并不简单——当各家公司追求不断降低每瓦特token数时,他们正意识到这种数据交通调度有多么重要。
“我们看到这些操作有了3倍以上的改进,Vera CPU实现了加速,”Hardy说。“现在我们可以充分发挥闪存的潜力,因为我们可以获得全部性能而不会遇到瓶颈。”
在英伟达之外,你也能看到类似问题的各种版本。当OpenAI开发其Jalapeño芯片时,一个主要关注点就是通过最小化需要搬运的数据量来完全避免这些挑战。
“我们设计Jalapeño是为了最小化数据搬运和通信延迟,”OpenAI在本月早些时候的一篇博客文章中表示。“其大域(domain)允许整个工作负载保持在一个连接的系统内,最小化数据搬运,帮助完整的请求从头到尾保持快速高效。”
这是一种不同的方法——通过在一个集成芯片内执行工作负载来完全避免数据搬运。但总体逻辑是相同的:通过更智能的流量控制来提升效率,而不是仅仅增加处理器算力。这反过来又为各家公司开辟了一个全新的基础设施竞争层次。
这种对数据编排的新关注并不自动意味着英伟达的胜利。该公司将不得不在这一领域与竞争对手芯片制造商和超大规模云服务商展开竞争,就像在GPU领域一样。但竞争已经转移到一个新的层次,在这个层次上,制造一颗竞争性GPU的重要性,不如让整个系统高效运转的能力。
而至少在早期阶段,英伟达看起来拥有压倒性的领先优势。