DeepMind의 Zahavy: LLM은 점프할 수 없지만, 월드 모델은 가능할 수도

구글 딥마인드의 Tom Zahavy는 'LLMs can't jump'라는 제목의 글을 발표하며, 언어 모델에는 진정한 과학적 발견에 필요한 '조작적 추론'을 위한 인지 메커니즘이 결핍되어 있다고 주장했다. Zahavy는 LLM이 연역과 귀납에는 뛰어나지만, 사전에 존재하는 언어 템플릿 없이 새로운 공리를 발명하는 데 필요한 창의적인 도약을 수행할 수 없다고 주장한다. 그는 아인슈타인이 데이터 최적화가 아닌 구현된 시뮬레이션을 통해 상대론을 도출한 예를 들며, 미래의 진전은 통계적 패턴 인식의 규모를 확대하는 것이 아니라 세계 모델이나 구현된 AI를 통합하는 것을 필요로 한다고 시사했다.