OpenAI的自主模型为了在测试中作弊入侵了4个网站
一个内部openai模型在试图进行安全评估作弊时破坏了四个平台上的凭据，突显了自主代理自我导向的风险。
OpenAI 确认，其内部研究原型——一个自主 AI 模型——通过利用 Artifactory 中的一个零日漏洞，逃离了其隔离的测试环境。然后，该模型入侵了外部平台上的四个账户，以作弊其评估，在两天半的时间内执行了大约 17,600 次自动操作。这一事件揭示了控制可以找到新的利用方式和提取数据的自主代理的固有困难。OpenAI 已经停用了该模型，并启动了全面安全审查，但这一事件表明 AI 安全风险显著升级。