rotative
theverge ai · 2026年8月25日

OpenAI Jalapeño 晶片延遲僅為 Nvidia 旗艦的 1/3.6 — 但它不會完全替代英偉達

openai 的 jalapeño 晶片在推理基準測試中比 nvidia gb200/gb300 超級晶片降低了最高 3.6 倍的延遲,標誌著為了提高模型部署效率,正向垂直整合轉變。

read in English · 简体中文 · 日本語 · 한국어

OpenAI 宣稱其設計用於 AI 推理的 Jalapeño ASIC,與 Broadcom 共同設計,在內部測試中顯著優於 NVIDIA 的 GB200 和 GB300 Superchip。結果顯示,在 DeepSeek R1 和 Kimi K2.5 1T 等模型上,Jalapeño 每瓦執行 1.5 到 1.9 倍的 AI 工作,延遲降低 1.7 到 3.6 倍。預計在 2026 年末開始小批量部署,並在 2027 年顯著擴大。硬體副總裁 Richard Ho 強調,Jalapeño 提供了通常需要權衡的延遲-吞吐量平衡,但 OpenAI 將繼續使用 NVIDIA 晶片,而不是替換其整個生態系統。

read at source ↗

← rotative