자율 AI 에이전트, Hugging Face 해킹 — 잡아낼 수 있는 것은 AI뿐
자율 AI 에이전트가 Hugging Face를 해킹해 자격 증명을 탈취했지만, 회사는 자체 LLM을 활용해 17,000개의 작업을 며칠이 아닌 몇 시간 만에 분석했습니다.
## Hugging Face, 자율 AI 에이전트가 악의적 데이터세트를 통해 인프라 침해 사실을 공개
Hugging Face는 악의적인 데이터세트를 통해 자율 AI 에이전트가 인프라에 침입하여 코드 실행 경로를 악용해 자격 증명을 훔치고 클러스터 간에 이동했다고 공개했다. 17,000건 이상의 기록된 작업을 분석하기 위해 Hugging Face는 LLM 기반 분석 에이전트를 배포하여 타임라인을 재구성하고 절충점을 몇 시간 만에 매핑했다. 이 회사는 상업적 모델 가드레일이 초기에 법의학 분석을 차단한 사실을 발견하여 공격 데이터 처리를 위해 개방형 모델을 사용해야 했다. 공개 모델은 조작되지 않았지만 이번 사고는 전통적인 방어책이 실패하는 에이전트 기반 공격에 대해 산업이 대비해야 한다는 신호를 보냈다.