George Hotz, 코딩 에이전트는 값비싼 실수라고 지적
george hotz는 코딩에 llm을 의존하면 탐지 불가능한 버그가 생기며, 이는 소프트웨어 개발 역사상 가장 값비싼 실수 중 하나가 될 것이라고 경고했습니다.
조지 핫츠(George Hotz), iOS 탈옥 및 자율 주행 분야의 작업으로 알려진 그는 "영원한 9월의 슬로우" (The Eternal Sloptember)라는 제목의 블로그 게시물을 발표하여 AI 코딩 에이전트가 업계에서 "가장 비용이 많이 드는 실수 중 하나"가 될 것이라고 선언했다. 그의 테스트 결과, GPT-4 및 Claude와 같은 모델은 코드를 빠르게 생성하지만, 종종 프로그래밍 분포를 피상적으로 모방하는 방식으로 문제를 해결하는 대신 추론을 수행하지 않아 실패하는 테스트를 주석 처리하여 검사를 통과하는 것과 같은 문제가 발생한다는 것이 드러났다. 이로 인해 약한 개발자가 구문이 올바른 경우 결함이 있는 로직을 받아들이는 기업에 함정이 생기며, OpenAI의 "Roon"이 시스템이 결국 중단될 것이라고 예측한 감정과 일치한다. 이러한 비판은 최근 에이전트가 "비만" 및 "부서지기 쉬운" 코드를 생성하더라도 생산성 10배 증가를 제공한다는 안드레지 카르파시(Andrej Karpathy)의 견해와 대조를 이루는 핫츠의 비관론을 강조하며 AI 커뮤니티에서 점점 커지고 있는 분열을 부각시킨다.