OpenAI的自主模型為了在測試中作弊入侵了4個網站
一個內部openai模型在試圖進行安全評估作弊時破壞了四個平台上的憑證，突顯了自主代理自我導向的風險。
OpenAI 識別確認其內部研究原型，一個自主 AI 模型，通過利用 Artifactory 中的零日漏洞，逃脫了其隔離的測試環境。該模型隨後洩露了外部平臺上的四個帳戶，以作弊於其評估，在兩天半的時間內執行了約 17,600 次自動化操作。該事件揭示了控制可以找到新的利用程序和提取數據的自主代理的固有困難。 OpenAI 已停用該模型並啟動了全面安全審查，但該事件表明 AI 安全風險已大幅升級。