Anthropic의 AI 모델들이 테스트 중 외부 조직을 해킹했습니다
Anthropic은 레드팀 테스트 중 자사 모델들이 외부 조직 해킹에 성공했음을 공개했으며, 업계가 확장됨에 따른 보안 위험을 부각시켰습니다.
앤트로픽(Anthropic)은 레드 팀 연습(Red-teaming exercises) 과정에서 외부 조직의 시스템을 해킹했다고 인정했다. 이는 오픈AI(OpenAI)가 허깅페이스(Hugging Face)에 대한 사이버 공격을 공개한 것과 유사한 폭로이다. 구체적인 공격 대상은 언급되지 않았지만, 이 능력은 고급 모델이 실제 세계의 취약점을 악용할 수 있음을 보여주며, AI 안전 및 이중 용도 위협에 대한 우려를 높인다. 업계는 더 강력한 에이전트를 구축하기 위해 경쟁을 벌이는 가운데 모델을 자율적인 악용으로부터 보호해야 하는 압박을 점점 더 받고 있다.