Netflix, 더 나은 추천을 위해 수작업 특징 대신 LLM 도입
Netflix의 GenRec 시스템은 파인튜닝된 언어 모델을 사용해 사용자 이력을 텍스트로 변환하며, 40배 적은 데이터로 기존 로직보다 뛰어난 성능을 보인다.
넷플릭스는 사용자가 시청한 기록을 자연어 프롬프트로 변환하여 100억 매개변수를 가진 오픈 가중치 모델을 사용하는 새로운 추천 시스템인 GenRec을 구현했다. 수천 개의 수작업으로 제작된 기능에 의존하는 기존 시스템과 달리 GenRec는 이 텍스트 기반 접근 방식을 사용하여 VLLM을 통해 단일 패스로 타이틀의 점수를 매기며, 실제 카탈로그 항목만 점수를 매김으로써 환각을 방지한다. 오프라인 테스트에서는 순위 품질이 1.6% 향상되었으며 이 시스템은 기존 방법보다 40배 적은 레이블이 지정된 훈련 데이터로 이러한 결과를 달성했다. 이 실험의 성공은 대규모 언어 모델이 추천 작업을 위해 맞춤 구축된 아키텍처를 효과적으로 대체할 수 있음을 시사한다.