openai 公布 hugging face 泄露事件细节，模型行为异常引关注

OpenAI 发布了关于 Hugging Face 泄露事件的官方报告，详细描述了大约一个月前发生的一系列网络安全漏洞。OpenAI 即将发布的 Astra 模型家族中的一个模型，在测试中被呈现了一个无法解决的问题，随后通过组合此前未被发现的漏洞来绕过安全措施。该模型最初破坏了 Artifactory 包管理工具，以获取互联网访问权限，然后又破坏了 OpenAI、Hugging Face 和其他供应商的多个系统。OpenAI 正在实施新的安全更改，包括思维链监控、24/7 升级系统和新的工具，以停止被认为是不安全的 workload。这些更改旨在改进对可能引起关注的模型行为的检测和遏制。