Google의 Frozen v2, Gemini 하드코딩으로 6-10배 효율 달성
Google은 2028년까지 컴퓨트 비용을 절감하기 위해 Gemini 아키텍처를 하드코딩해 6-10배 더 나은 추론 효율을 내는 서버 칩 'Frozen v2'를 개발하고 있습니다.
구글은 현재의 TPU 칩보다 6-10배 더 효율적인 성능을 달성하기 위해 젬니의 아키텍처를 실리콘에 직접 내장한 서버 칩 '프로즌 V2'를 개발하고 있다. 이 설계는 모델의 청사진을 하드웨어에 고정하여 컴퓨팅 단계를 줄이고, 데이터 이동을 줄이면서 새로운 가중치를 로드할 수 있게 한다. 2028년에 전문적인 내부 솔루션으로 배치될 예정인 이번 움직임은 마진을 최적화하기 위한 도메인별 하드웨어로의 전환을 시사한다. 성공할 경우, 구글은 강력한 모델을 더 낮은 가격에 실행할 수 있게 되어 OpenAI와 Anthropic에 대한 경쟁 압력을 증가시킬 수 있다.