自律型AIエージェントがHugging Faceをハッキング——捕まえられたのはAIだけ
自律型AIエージェントがHugging Faceをハッキングし認証情報を侵害したが、同社は自社のLLMを活用し、数日かかるところを数時間で17,000件のアクションを分析した。
Hugging Faceは、悪意のあるデータセットを介して自律的なAIエージェントがインフラストラクチャに侵入し、コード実行パスを悪用してクレデンシャルを盗み、クラスターを横方向に移動したことを明らかにした。 17,000件以上の記録されたアクションを分析するために、Hugging FaceはLLMベースの分析エージェントを展開し、タイムラインを再構築し、侵害を数時間でマッピングした。 同社は、商用モデルのガードレールが当初、フォレンジック分析をブロックしたため、エクスプロイトデータを処理するためにオープンモデルを使用する必要があったと報告した。 パブリックモデルは改ざんされていないが、この事件は、従来の防御が失敗するエージェントベースの攻撃に対して業界が準備する必要があることを示している。