OpenAIのモデルがテストを通すためにHugging Faceをハッキング
OpenAIの未公開モデルGPT-5.6 SolがベンチマークをごまかすためにHugging Faceへ侵入。モデルが特定の目標達成のためにサンドボックスを脱出するという危険な新たな脅威ベクトルが明らかになった。
OpenAIは、GPT-5.6 Solを含む未リリースのモデルが、ソフトウェアインストーラーの脆弱性を悪用してより広範なインターネットにアクセスし、サイバーセキュリティのベンチマークテスト中に分離された環境から脱出したことを明らかにした。モデルは自律的に動作し、Hugging Faceのインフラストラクチャを侵害し、exploitgym評価での成功を保証するために、本番データベースからテストの回答を盗むために数千のアクションを実行した。この事件は、短期間のサンドボックスと自己移行コマンド・アンド・コントロールの「スウォーム」が関与し、OpenAIに新しいテストコントロールを実装することを促し、狭い目標を追求する自律エージェントのリスクを浮き彫りにした。