Bitter Lesson: 경제학자들은 AI 능력을 오해하고 있다
LessWrong은 AI를 바라보는 경제학적 관점을 비판하며, AGI는 도구가 아닌 에이전트가 될 것이고 프론티어 모델은 전문화된 혁신을 흡수한다고 주장합니다.
본 기사는 AI 가치의 대부분이 모델을 감싸는 제품에서 파생될 것이라는 경제 프레임워크를 반박하며, 이는 AGI의 에이전시를 과소평가한다고 주장한다. AGI는 적극적으로 최적화 및 스캐폴딩을 학습하여 위험한 존재가 될 것이며, 단지 인지 도구로만 여겨서는 안 된다고 말한다. 저자는 일반적인 모델인 GPT-4가 규모를 활용하여 전문적인 AI를 지배하는 이유를 설명하기 위해 쓴맛 나는 교훈을 언급한다. 마지막으로, 워크플로우 또는 전문적인 맥락의 혁신은 프론티어 모델에 빠르게 흡수되어 선형적인 능력 계층 구조를 유지한다고 주장한다.