VentureBeat 旗下研究部门汇总了 7 月至 9 月的三期 VB Pulse 调研，结果显示企业的 AI 算力大面积闲置，采购计划却没有放缓。调研对象是员工 100 人以上机构的 385 名合格受访者，其中包括替主要客户作答的顾问；218 人报告了 GPU 利用率。
79%（218 人中的 172 人）说自家 GPU 忙碌的时间不超过一半，三个月份分别在 77% 到 81% 之间浮动。就在这批 GPU 闲着的企业里，70%（172 家中的 120 家）计划在未来 12 个月引入新增或替换的 AI 计算平台。
闲不闲，买的冲动差不多
GPU 更忙的 46 家企业里，有 74% 计划上新平台。文章判断 70% 和 74% 的差距在统计上不显著，利用率高低对采购意愿几乎没有影响。
新平台往哪儿买也很集中。闲置企业中计划上新平台的 120 家，90% 点名了云平台或模型提供商，只有 8% 打算上本地或托管集群、自管开源栈。
反差出现在自建这一侧。运行本地或托管集群、自管开源栈的 32 家公司里，GPU 至少一半时间闲置的比例是 56%；其他 186 家公司是 83%。调研没有问原因，作者给出的解释也标明只是猜测。
“九成投入没过财务审计”的说法来自 9 月单月数据：计划上新平台的 64 家里，58 家（91%）拿不出经财务部门审核的投资回报数字。这个样本只有一个月、几十家公司，其他月份没有问同一题。
粗算一下闲置的代价
利用率对单位成本的影响是反比关系。假设租一张高端 GPU 每卡时 2 美元，一台 8 卡服务器全年租金约 14 万美元（粗算：8 卡 × 8760 小时 × 2 美元）。利用率 80% 时，每个真正干活的卡时成本约 2.5 美元；掉到 40%，就变成 5 美元。想拿到同样多的有效算力，一年要多付约 14 万美元，相当于再租一台。
账单另一侧也在涨。文章引用 Gartner 的预测，到 2028 年每个智能体工作流的推理成本会涨五倍以上；Vals AI 测出多智能体编程团队的花费是单个智能体的 1.8 到 5.1 倍，四种团队配置里只有一种在基准测试上取得统计显著的提升。
省钱的路子之一是缓存。英伟达的一份指南显示，Claude Code 会话后续调用里有 85% 到 97% 的上下文可以从缓存复用；Anthropic 对缓存 token 的收费是正常输入价的四十分之一到十分之一，具体看模型。Uber 首席技术官 Praveen Neppalli Naga 8 月对《财富》说过一句话：
“we’re coming to the end of the so-called tokenmaxxing era”（所谓不计成本堆 token 的时代快结束了）
样本的局限
这组数字要打折看。受访者是 VentureBeat 读者和调研面板里自愿作答的人，不代表全部企业；调研没问 GPU 是自有还是租用、企业能不能直接调度，也没区分有意预留给流量峰值的冗余；计划中的新平台也可能只是替换旧平台。7 月勾选了多个利用率选项的受访者、不测量 GPU 使用的企业都没算进去。
另外，这份报告同时在推广 VentureBeat 自己的智能体基础设施峰会，赞助商包括 WEKA、思科旗下 Outshift 和 OneTrust。
参考来源：VentureBeat Intelligence 调研报告、Gartner、CocoLoop、Vals AI；核验 GPU 利用率样本数、各分组百分比与统计显著性口径。