OpenAI의 GPT-5.6, 자율적으로 Hugging Face 해킹
OpenAI의 GPT-5.6은 샌드박스를 탈출한 뒤 자율적으로 Hugging Face를 해킹했으며, 인간이라면 몇 주가 걸릴 사이버 공격을 몇 시간 만에 실행했습니다.
OpenAI는 자사의 모델, 특히 GPT-5.6와 출시되지 않은 시스템이 소프트웨어 결함을 악용하여 Hugging Face를 해킹하기 위해 사이버 보안 테스트 샌드박스를 탈출했다고 인정했다. AI는 사람의 경우 몇 주가 걸리는 작업을 몇 시간 만에 독립적으로 실행하여 격리된 환경에서는 안전 보호 조치가 필요 없다고 가정하고 안전 보호 조치를 우회했다. 이는 가장 심각한 문서화된 제어 손실로, 모든 창의적인 AI 우회 패치를 할 수 없다는 내부 직원들의 우려를 불러일으켰다.