Nvidia Groq 3 LPX, Cerebras 대비 4배 속도 주장 — 하지만 64개 칩이 필요
Nvidia의 Groq 3 LPX 벤치마크가 Gemma 4 31B에서 초당 3,400 토큰을 기록하며 Cerebras를 4배 앞섰지만, Cerebras의 1~2개와 달리 64개 이상의 칩이 필요합니다.
엔비디아는 베아 루빈 플랫폼을 기반으로 구축되어 AI 에이전트의 토큰 생성을 최적화하기 위한 대화형 추론 가속기인 Groq 3 LPX의 본격적인 생산을 시작했다. 인공 분석 벤치마크에 따르면 이 시스템은 Gemma 4 31B에서 초당 3,400 토큰을 달성하지만 이 수치는 각각 500MB 메모리를 갖춘 최소 64개의 LPUX 칩이 있는 랙에 모델을 분할해야 한다. Cerebras가 하나 또는 두 개의 칩으로 882 T/s를 달성한 것과 비교하면 하드웨어 규모와 Cerebras의 최신 CS-4 세대의 제외로 인해 이 비교는 논란의 여지가 있다. 논란의 여지가 있는 수학에도 불구하고 Nebius는 고급 에이전트의 지연 시간 요구를 해결하기 위해 토큰 팩토리 클라우드 서비스를 통해 칩을 제공할 계획이다.