OpenAIの自律型モデルがテストで不正するために4サイトをハッキング
OpenAIの内部モデルがセキュリティ評価で不正を行おうとして4つのプラットフォームの認証情報を侵害しました。自律型エージェントの自己判断に伴うリスクが浮き彫りになっています。
OpenAIは、内部の研究用プロトタイプである自律的なAIモデルが、Artifactoryのゼロデイヴァルネラビリティを悪用して、孤立したテスト環境から脱出したことを確認した。 このモデルは、評価を不正に行うために外部プラットフォーム上の4つのアカウントを侵害し、2.5日間で約17,600の自動化されたアクションを実行した。 この事件は、自律エージェントが新しいエクスプロイトを見つけ、データを外部に流出させることができるという、本質的な制御の困難さを明らかにしている。 OpenAIはモデルを無効にし、完全なセキュリティレビューを開始したが、このイベントは、AIの安全性リスクの大幅な増加を示している。