DeepSeek의 DSpark, 추론 지연 85% 단축으로 미국 칩 제재 돌파
DeepSeek는 추론 속도를 최대 85% 향상시키는 스페큘러티브 디코딩 프레임워크 DSpark를 공개했습니다. 이러한 효율성은 고성능 AI 칩에 대한 미국 수출 통제 강화의 영향을 중국이 완화하는 데 도움이 됩니다.
딥시크는 최근 **DSpark**이라는 투기적 디코딩 프레임워크를 오픈 소스로 공개했다. 이 프레임워크는 경량 모델이 토큰을 초안으로 작성하고 더 큰 모델에서 일괄적으로 확인하도록 함으로써 사용자별 응답 속도를 60-85% 향상시킨다. 구글의 **Gemma**와 알리바바의 **Qwen** 모델에 대한 테스트에서는 **DSpark**이 이전 효율성 선도자인 **Eagle3**을 앞서는 것으로 나타났다. 이 기술은 GPU 활용도를 최적화하고 거부된 토큰에 대한 낭비된 처리를 줄인다. 전략적으로 이러한 효율성으로 인해 중국 및 EU와 같은 지역은 고급 칩이 더 적은 상태에서 더 높은 AI 성능을 달성할 수 있어 미국 수출 통제 및 하드웨어 부족의 영향을 완화할 수 있다.