企业投资了数十亿无法度量的AI算力——83%的GPU有一半时间处于闲置状态
venturbeat調查了107家企業，發現83%報告GPU利用率低於50%，而只有44%有效跟踪算力成本，這標誌著激進的AI基礎設施支出與經濟監督之間存在危險的脫節。
VenturBeat 的一项针对 107 家企业的研究报告揭示了一个计算差距：尽管企业缺乏对其经济状况的可见性，但仍在积极购买 AI 基础设施。关键数据显示，83% 的组织以 50% 或更低的利用率运行 GPU，只有 21% 的组织已将 AI 扩展到生产环境中，不足一半（44%）的组织严格跟踪计算成本。支出正转向 AI 专用云（45% 计划评估）和更换供应商（64% 在一年内更换，38% 在季度内更换），驱动因素是集成（41%）和总体拥有成本（35%），而非 Token 价格（8%）。这表明，企业在为推理扩展限制（如内存带宽）做准备的同时，目前存在过度配置硬件的风险，但无法有效衡量或管理，这意味着在进一步资本支出之前，需要向更好的单位经济效益方向进行调整。