누수되는 AI 안전 파이프라인

독립 연구자가 ACNS 2026에서 채택된 논문을 발표하여 AI 안전 연구 파이프라인의 비효율을 강조했습니다. 이들은 MATS와 같은 펠로우십이 존재하지만, 멘토 부족으로 인해 야심 찬 연구자들이 생산성을 내지 못하고 있다고 지적합니다. 저자는 솔로 연구 접근 방식을 비판하고 LLM에 대한 과도한 의존이 잘못된 추론을 강화할 수 있다고 경고합니다. 대신, 학습 프레임워크와 동료 검토에 의한 기여 사이의 격차를 메우기 위해 동료들이 서로를 지원하는 확장 가능하고 협업이 많은 모델을 주장합니다.