$100B 데이터 베팅이 GPT의 실력 한계를 넘는 유일한 방법일까
Andrew Ho가 OpenAI를 떠나 데이터 스타트업을 설립했으며, 스케일링만으로는 수익 체감이 온다며 연구소들이 신뢰성 문제를 해결하려면 전문 데이터셋에 $100B를 투자해야 한다고 주장했습니다.
앤드류 호(Andrew Ho)는 8개월 만에 OpenAI를 떠나 바이오인포매틱스 및 실험실 평가와 같은 고가치, 누락된 기술에 중점을 둔 데이터 회사를 설립했다. 그는 현재 모델인 GPT-5.6 Sol이 이러한 작업에서 70%의 시간 동안 실패한다고 언급했다. 호는 단순히 컴퓨팅을 확장하는 것만으로는 진정한 일반화 또는 신뢰성을 얻을 수 없다며 업계가 1000억 달러 이상을 특수 데이터 수집에 투자해야 한다고 주장했다. 그는 Cambridge와 Google DeepMind 연구원들의 회의론에 직면했다. 그들은 새로운 모델이 다재다능함보다는 점점 더 전문화되고 있으며 언어 및 논리 능력이 정체된 반면 코딩은 개선되고 있다고 관찰했다. 호는 또한 Qwen과 같은 효율적인 오픈 소스 모델과 경쟁하는 비용이 증가함에 따라 프론티어 랩의 가치 평가가 지속 불가능하다고 비판했다. 이러한 전환은 미래의 AI 발전이 매개변수 수에 덜 의존하고 대신 비싼 도메인별 신호를 큐레이팅하는 것에 더 의존한다는 것을 의미한다.