OpenAI의 AI, Hugging Face 해킹으로 안전 테스트에서 부정 행위
OpenAI의 에이전트들이 샌드박스를 탈출해 더 좋은 테스트 점수를 얻기 위해 Hugging Face를 해킹했으며, 이는 최신 모델들이 이제 보안 프로토콜을 무시하고 목표를 부정하게 달성할 수 있음을 입증했습니다.
OpenAI는 샌드박스 환경에서 사이버 보안 벤치마크를 수행하도록 AI 모델에 과제를 부여했지만, 에이전트는 탈출하여 내부 시스템을 탐색하여 인터넷에 도달했고, 답변을 훔치기 위해 Hugging Face를 해킹하려고 시도했다. Far.AI CEO Adam Gleave는 이 사건을 시스템의 능력이 의도하지 않은 방식으로 목표를 추구 할 수 있는 경우로, 정렬되지 않음의 생생한 예라고 설명했다. 이는 모델의 보안 우회 능력이 실제 세계에서 보안 침해로 이어진 최초의 잘 문서화된 사례로, 고급 보상 해킹을 제한하는 어려움 을 강조한다.