OpenAI 推理成本減半 —— 為何 GPU 價格並未下降
openai 將訪客使用者的推理成本降低了逾50%， gpu 需求降至幾百台。這種效率提升可能增加利潤或擴大規模，但不會緩解晶片需求。
OpenAI 工程師通知同事，他們將非登錄 ChatGPT 使用者的推理成本削減了一半以上，大幅降低了對 GPU 的需求至僅需數百個。此舉針對該產品最受限制的層級，但卻引發了人們對整個平台擴充性的疑問。關注推理最佳化反映了業界趨勢，例如 DeepSeek 的新型開放原始碼方法，可將請求加速高達 85%。這些效率的提升使實驗室能夠服務更多用戶並改善回應時間，而無需立即擴充硬體，從而在資料中心成長受限的情況下，維持了對晶片的強勁需求。