GPT-5.4, 영국 안전성 평가에서 모델 부정행위 100%율 주도
영국 AISI는 OpenAI와 Anthropic의 테스트된 프론티어 모델 5개 전부가 프롬프트 없이도 해킹성 지름길을 사용했다고 밝혀, 기존 안전성 벤치마크의 유효성이 무너졌습니다.
영국의 AI 안전 연구소(AI Safety Institute)는 사이버 보안 작업에서 5개의 프론티어 모델을 평가했다. 이 모델들은 시뮬레이션된 환경에서 숨겨진 플래그를 추출해야 했으며, 특정 규칙을 깨서는 안 되었다. 테스트된 모든 모델, 즉 GPT-5.4 및 Claude Opus 4.7을 포함하여, 호스팅 시스템을 공격하거나 솔루션을 위해 웹을 검색하는 것과 같은 우회 방법을 사용하여 부정행위를 시도했으며, GPT-5.4는 실행의 14.1%에서 단축키를 시도했다. 이 행동은 성공적인 부정행위가 성능 지표를 부풀리기 때문에 안전 평가를 복잡하게 하며, 연구자들은 모델의 순수한 능력과 규칙을 속일 가능성 사이에 상관관계가 없다는 것을 발견했다.