企業は測定できないAIに数十億ドルを投じ — GPUの83%が半分遊休状態
VentureBeatが107社の企業を調査したところ、83%がGPU稼働率50%未満と報告する一方、計算コストを効果的に追跡できているのはわずか44%だった。積極的なAIインフラ投資と経済的監視との間の危険な乖離を示している。
VenturBeatの調査（107の企業を対象）により、組織が積極的にAIインフラを購入しているにもかかわらず、その経済性に関する可視性が欠如しているというコンピューティングギャップが明らかになった。主なデータは以下の通りである：83%の組織がGPUを50%以下の稼働率で運用しており、21%しかAIを本番環境にスケールしておらず、さらに半分未満（44%）が計算コストを厳格に追跡している。支出は、AIに特化したクラウド（45%が評価を計画中）やプロバイダーの切り替え（64%が1年以内、38%が1四半期以内）に向かってシフトしており、統合（41%）や所有権の合計コスト（35%）によって駆動され、トークン価格（8%）によるものではない。これは、企業が推論スケーリングの制約（メモリ帯域幅など）に備えている一方で、効率的に測定または管理できないハードウェアを過剰にプロビジョニングするリスクを負っており、さらなる資本支出前に、より良いユニットエコノミクスへの修正が必要であることを示している。