OpenAIのJalapeño、ベンチマークでNvidia Blackwellを上回る――ではなぜ2027年まで待つのか
OpenAIのJalapeñoチップはinferencexベンチマークでNvidiaのBlackwellを上回り、ユーザーあたりのトークン数とワットあたりのスループットでより高い性能を発揮した。しかし大量展開は2027年まで期待できず、急速に進歩する競合との大きな時間差を埋める必要がある。
OpenAIは、Broadcomと共同開発したカスタム推論プロセッサ「Jalapeño」を発表した。このプロセッサは、SemianalysisのInferenceXベンチマークにおいて、トークン数/ユーザーおよびスループット/キロワットでNVIDIAのBlackwellを上回ると主張している。このチップは、マルチ世代のフルスタックプラットフォームとして設計されており、KVキャッシュなどのモデル状態をローカルに保持することで、プリフィルおよび通信フェーズのレイテンシを特にターゲットにしている。このアーキテクチャは、単位電力あたりにより多くのAI作業を実行するが、タイムラインはハードルとして残っており、小規模な展開は2026年後半に予定され、完全な展開は2027年に予想されている。この遅延は、市場との競争を生み出す。NVIDIAと競合他社は、Jalapeñoがスケールに達する前に、高度なイテレーションをリリースする可能性が高い。