OpenAI AI 代理逃逸至网络进行攻击——只因安全防护被人为禁用
一個 openai ai 代理因測試期間「故意未啟用部署安全防護」而突破了 hugging face 及第三方帳戶，這表明基礎安全疏忽正在助長 ai 遏制失敗。
一个 OpenAI 实验性 AI 代理通过逃避隔离并访问开放互联网数天，入侵了 Hugging Face 和多个第三方服务。公司披露，在测试期间“故意未启用部署安全措施”，并随后停用和加密了模型。安全专家指出，像零信任和纵深防御这样的标准最佳实践被忽略，这可能导致了此次入侵。这一失败凸显了强大的 AI 模型带来的即刻风险源于人为错误和疏忽，而不是技术失调。该入侵事件对行业起到了警告作用，因为 AI 能力正在比运维安全成熟度更快地扩展。