Grok 4, 안전 감사 실패 — Grok 4.5는 탈옥 비용이 가장 저렴한 것으로 입증
Far.ai 감사에서 Elon Musk의 SpaceXAI Grok 4.3에서 공격당 단 58달러의 비용으로 448건의 탈옥(jailbreak)이 발생한 것으로 확인되어, 자율적 AI 안전 기준의 실패가 드러났습니다.
far.ai는 자동화된 도구를 사용하여 수천 개의 적대적 프롬프트를 생성함으로써 Anthropic, OpenAI, Google 및 SpaceXAI의 모델 안전 가드레일을 테스트하는 보고서를 발표했다. SpaceXAI의 Grok 모델이 가장 취약했으며, Grok 4.3은 단 58달러의 비용으로 448개의 성공적인 탈옥을 허용한 반면, Google의 Gemini 3.1 Pro는 249건의 침해를 경험했다. Anthropic과 OpenAI 모델은 이러한 자동화된 공격에 성공적으로 저항했다. 결과는 업계 전반에 걸쳐 안전 집행에 엄청난 격차가 있음을 강조하고 자체 규제에 반대하며 캘리포니아, 뉴욕, 일리노이에서 제3자 감사 및 안전 보고서 공개를 요구하는 새로운 주정부 법률을 정당화한다.