你买的AI算力可能一半在空转
83%的企业GPU利用率在50%或以下。8%根本不测量利用率,6%觉得追踪成本不是优先事项。简单说,大量买来的AI硬件大部分时间在空转。
只有21%的企业在规模化生产环境中运行AI,76%还在实验或部分生产阶段。采购计划跑到了实际使用前面,先买算力再想用途。
能严格追踪AI计算成本的企业不到一半,只有44%。一边是GPU空转,一边下一笔采购预算已经批了,中间缺成本管控。AI基础设施满意度评分(5分制)平均4.0,其中性价比最低,只有3.9。
64%的企业计划12个月内更换或增加基础设施供应商,38%打算3个月内行动。当前最常用的是Google Cloud(48%),其次是Gemini模型(41%)和OpenAI(40%)。选供应商时最看重跟现有云和数据栈的集成(41%),总拥有成本次之(35%),每百万token价格只影响8%的企业。系统兼容性比单纯算力价格更关键。
AI专用云(如CoreWeave、Lambda)目前使用率不到2%,但45%的企业计划在未来12个月内评估它们。专用云净增动量(+24)甚至略高于超大规模云(+22)。未来AI基础设施格局可能会变。
76%的企业仍在实验或仅运行部分工作负载,32%计划评估非NVIDIA加速器(如AWS Trainium、Google TPU)。在推理内存瓶颈方面,约五分之一的企业不知道或不关注这个趋势。目前Dell领先(31%),英伟达次之(16%)。
调查样本以中型企业为主(101-250人占36%,251-1000人占27%),大型企业的行为可能不同,但这些现象同样存在于许多组织中。AI专用云使用率极低但计划评估比例高,净增动量已超过传统超大规模云。企业正面临供应商更替和内部适配的阵痛期。