서튼, 합성 데이터는 AI 확장에 있어 '큰 실수'라고 주장
강화학습의 선구자 리처드 서튼(Richard Sutton)은 시뮬레이션이 실제 세계의 무한한 복잡성에 비하면 '미미한' 수준이기 때문에 합성 데이터가 AI 확장의 병목이 된다고 주장했습니다.
영향력 있는 '쓴 교훈(Bitter Lesson)' 에세이의 저자인 리처드 서튼(Richard Sutton)은 LLM 확장 병목 현상을 해결하기 위해 합성 데이터에 의존하는 것을 '큰 실수'로 비판하며, 이는 인간의 병목 현상을 재도입한다고 말했다. 서튼은 '큰 세계 가설(Big World Hypothesis)'을 인용하면서, 세계는 무한히 복잡하기 때문에 어떤 시뮬레이션도 '미시적인' 수준에 머물며 현실이나 다른 에이전트의 마음을 정확하게 나타내지 못한다고 설명했다. 서튼은 인간이 큐레이션한 시뮬레이션에 의존하는 대신, 동적 세계 모델을 구축하기 위해 자신의 경험으로부터 지속적으로 학습하는 에이전트를 주창한다. 그는 대규모 언어 모델이 과학적 돌파구임에도 불구하고, 현재 훈련 후 가중치가 고정된 채로 있기 때문에 지능의 '20% 또는 4분의 1'만을 대표한다고 결론지었다.