算力#云计算#市场调研#芯片

VB Pulse 调查:79% 企业 GPU 利用率不足一半,七成仍要新增算力平台

VentureBeat 三轮调查:79% 企业 GPU 利用率不过半,70% 仍计划一年内新增或更换 AI 算力平台,91% 无财务审核的 ROI。

红色购物车里堆满标着 GPU 字样的芯片,芯片上方飘着 Zzz 睡眠符号

VentureBeat 旗下的读者调查条线 VentureBeat Intelligence 从 7 月到 9 月连跑三轮 VB Pulse 月度问卷,反复问生产环境里跑 AI 的企业同一个问题:你们的 GPU 平均利用率是多少。10 月 23 日发布的汇总分析给出合并答案:218 家报出利用率数字的企业里,79%(172 家)自报平均利用率不超过 50%,其中 70%(120 家)仍计划在 12 个月内新增、加购或更换一个 AI 算力平台。受访者是 VB 读者和 panel 里自选填答的人,43% 是替客户机构作答的顾问——它画出来的是企业算力侧的自画像,不是行业实测。

要点

  • 闲置的口径是自报利用率 ≤50%,不是「完全闲置」。三个月里这一比例在 77%–81% 之间浮动,VentureBeat 自检后称月度差异「无统计显著性」;9 月单月 31% 自报有效工作只占四分之一以下的时间(基数 71 家在产企业,剔除不自测的 4%)。
  • 70% 是闲置子群的口径。GPU 忙碌的企业同样想买:46 家里 34 家(74%)计划上新平台,与闲置企业的 70% 差异经检验不显著。标题的反差成立,但这是同一问卷的两个不同切分。
  • 91% 拿不出财务口径的 ROI。9 月单月,64 家计划一年内上新平台的企业里 58 家没有经财务审核的 ROI 数字;全样本里这个比例也有 90%,只有 10% 的企业能给出。

调查怎么做的

VB Pulse 三轮问卷的方法论写在报告页上:9 月单月收到 178 份回复,其中 102 家合格;三轮合并的合格受访者共 385 家,全部来自 100 人以上的机构。VentureBeat 把限制写得很直白:每月受访者是自选填答的 VB 读者和 panel 成员,各月群体不同,结果描述的是「这些受访者」,不能推及所有企业;利用率由受访者自报,问卷没有追问数字怎么得来;报告只把 Fisher 精确检验或卡方检验 p<0.05 的差异当作显著。43% 的受访者是顾问,替客户机构作答;只有 57% 在为自己供职的企业用 AI。子样本更小:利用率一题拆到 9 月单月,基数是在产企业 71 家,剔除不自测利用率的 4% 后为 68 家,81%(55/68)自报 ≤50%——这就是「后续月度升至 81%」这类说法的出处,实际是三个月一直稳定在这个区间。

数字拆解

合并三轮的数字按口径拆开如下(数据出自 VentureBeat 10 月 23 日汇总分析与其报告页):

问题合并三轮(7—9 月)9 月单月
自报利用率 ≤50%79%(172/218)81%(55/68)
自报利用率 ≤25%—31%
闲置企业计划 12 个月内上新平台70%(120/172)—
忙碌企业计划上新平台74%(34/46)—
闲置买家指名云平台或模型商90%(108/120)—
闲置买家指名自建集群或自管开源栈8%(9/120)—
计划买家无财务审核 ROI—91%(58/64)

9 月的其他细节:63% 的企业计划一年内新增一个 AI 算力平台,其中 75% 说六个月内动手;在产企业里 68% 用 Google Cloud、Gemini 或两者,41% 用 OpenAI,Microsoft Azure 为 36%,Oracle Cloud 为 24%;计划上新平台的企业里,Google Cloud 与 Oracle Cloud 各有 31% 列入考虑,OpenAI 为 29%。CoreWeave、Lambda 这类专项 AI 云在产占比只有 12%(18% 列入考虑),但有 29% 把它们列为最可能评估的新兴选项。唯一通过显著性检验的月度变化是成本感知:把「每百万 token 成本」列为选择 AI 基础设施考虑因素(可多选)的企业,从 8 月的 11% 涨到 9 月的 23%。

为何闲置仍要买

闲置与采购并存,VentureBeat 把它归结为两笔账:企业手里的 GPU 跑不了闭源前沿模型,推理开支又压不下来。Gartner 预测到 2028 年单个 agentic 工作流的推理成本要涨五倍以上;Uber CTO Praveen Neppalli Naga 在 8 月对 Fortune 说「tokenmaxxing 时代快到头了」——此前 Uber 几个月就烧完了 2026 年的 AI 预算。另一侧是省钱的技术账:NVIDIA 工程师在 Claude Code 会话里测得首次调用后 85%–97% 的上下文走缓存复用,Anthropic 对缓存 token 只收常规输入价的 1/40 到 1/10;Vals AI 测出带子代理的编码团队成本是单代理的 1.8–5.1 倍,四种组队方式里只有一种在基准上显著提升。两笔账加起来,90% 的闲置买家把下一笔钱投给云平台和模型商,只有 8% 考虑自建集群或自管开源栈。自管开源栈企业的利用率反而是最低的一档——56%(18/32)自报 ≤50%,其余企业是 83%(154/186)——问卷没有追问原因,VentureBeat 作者的猜测是:自管栈的团队直接看着每一小时的闲置,手里也有工程师把它填满。问卷也留了空档:没问容量是自有、租用还是纯 API 转手,也没排除刻意闲置——企业会为流量峰值预留 GPU,「上新平台」也可能只是替换旧平台。

各方说法

第三方解读站 WebPulse(Pulse/Adyog,AI 辅助生成,注明原始报道出自 VentureBeat)把这份调查读成一份采购前检查单:自选样本加自报数字,意味着调查说不出闲置的原因,「设想一座开工率一半的工厂,理智的厂主会先问第一座为什么空着,再谈第二座」;它列出的第一个前置问题是「闲置的 GPU 在等什么」。缓存数字恰好印证了这种怀疑——平均利用率是个钝数,缓存命中会拉低表观利用率,它分不清浪费与省出来的钱。WebPulse 还引用黄仁勋 10 月 21 日在 GTC Berlin 的说法作对照:企业不该只「消费 AI」,还要「生产 AI」。中文侧,机器之心 10 月 24 日全文编译了这篇报道,其「至少一半时间完全闲置」的译法超出问卷口径,原始问题问的是自报平均利用率是否 ≤50%。再看供给侧:Andy Jassy 同样在 10 月 23 日说 AWS 今年(2026 年)容量已售罄、2027 年大半订出(见本站 AWS 容量售罄条目)——供应商在配给,企业自报一半闲置,两组数字放在一起才完整。

编辑判断

对正在做算力预算的团队,这份调查真正有分量的是它拍下的采购流程横截面:91% 的买家没有经财务审核的 ROI,22% 的企业自认在严格追踪回报,其中不到一半(45%)能拿出财务口径的数字。标题里的 79% 传播力最强,该拖慢采购节奏的却是后面这两组——多数「上新平台」的决定还没过财务这道关。如果有人主张再租一批 GPU,WebPulse 检查单给出的顺序值得反过来走一遍:先测自己的利用率,再算每百万 token 成本,最后才谈要不要新平台。供给侧的叙事是另一极——本站 10 月 18 日写过 AWS CFO 的口径:AI 服务器回本不到三年,Q2 积压订单 4960 亿美元(AWS CFO:AI 服务器回本不到三年)。供应商用积压订单证明需求真实,这份调查用 79% 证明企业侧有闲置,两种叙事同时为真,中间的差值才是采购决策真正要算的账。

要保留的怀疑有三层。第一,样本是 VB 读者自选的,43% 还是顾问替客户作答,任何比例都不能当作行业普查引用;第二,利用率是自报的,平均数分不清刻意预留、缓存效应和真浪费;第三,我们检索到的第三方解读都建立在同一份调查上,没有独立于 VB 数据的实测类反方来源——这本身就是读这份报告的前提。