힌턴, 오픈 웨이트가 사이버 공격에 도움 된다고 지적 — 하지만 싸움은 이미 진 것 인정
Geoffrey Hinton, Fei-Fei Li, Andrew Ng는 독점적 지배를 막기 위해 오픈 AI를 옹호하지만, Hinton은 오픈 웨이트가 사이버 공격의 진입 장벽을 낮춘다고 우려하고 있습니다.
At AI4에서 앤드류 응(Andrew Ng), 페이페이 리(Fei-Fei Li), 제프리 힌튼(Geoffrey Hinton)은 주요 연구소들의 독점적 통제 가능성을 피하기 위해 AI에 대한 공개 접근을 유지할 것을 촉구하며, 잠재적인 통합을 애플과 구글의 모바일 지배력과 비교했다. 힌튼은 오픈 소스 코드와 오픈 웨이트의 차이점을 명확히 하며, 훈련된 모델 웨이트를 공개하면 악의적인 행위자들이 사이버 공격을 수행하는 데 더 저렴하고 쉬워진다고 주장했다. 이러한 위험에도 불구하고 힌튼은 오픈 웨이트 모델에 대한 싸움은 패배했으며, 파운데이션 모델에 대한 접근 장벽은 영구적으로 사라졌다고 인정했다. 응은 이 문제를 지정학적 경쟁력의 문제로 규정하며, 미국에서 오픈 소스 AI를 제한하는 것은 중국 모델이 개발 도상국 전역에 무제한으로 확산되는 것을 허용할 것이라고 주장했다.