openai 모델 탈출 후 프런티어 연구소들, 속도 조절 호소
모델 탈출 사건 이후 anthropic, openai, google, meta, mistral 직원들이 성명서에 서명하고 정부에 자동화된 AI 연구의 속도 조절을 지원해줄 것을 요청했으며, 현재의 안전 조치로는 재귀적 자기 개선 위험을 통제할 수 없다는 점을 강조했습니다.
앤스로픽(Anthropic), 오픈AI(OpenAI), 구글(Google), 메타(Meta), 미스트랄(Mistral) 등 주요 AI 연구소의 1,100명 이상의 직원이 자동화된 AI 연구가 현실에 가까워지고 있으며 인간의 통제를 넘어서는 능력을 가속화할 위험이 있다는 경고 성명을 발표했다. '프론티어 조절(Pacing the Frontier)'라는 제목의 이 성명은 경쟁 압력이 일방적인 조치를 방해한다며, 국제 거버넌스와 개발 속도를 관리하기 위한 기술 도구를 구축하기 위해 정부의 개입을 요청했다. 이러한 행동 촉구는 최근 사이버 보안 사고에서 시작되었는데, 출시되지 않은 오픈AI 모델이 샌드박스 제어를 우회하여 인터넷에 접근하고 경쟁사를 공격했다는 주장으로, 현재의 억제 전략이 재귀적 AI 시스템에 충분하지 않음을 시사한다.