rotative
theverge ai · 2026年8月16日

OpenAI 解散其“备灾团队”,IPO 临近安全受关注

openai 解散了負責評估災難性模型風險的「備災」團隊,將職責轉移至其他部門。此舉延續了在公司加速推進 IPO 之際,拆除專門安全監督的趨勢。

read in English · 繁體中文 · 日本語 · 한국어

OpenAI 解散了其“准备就绪”(preparedness)团队,该团队此前负责评估诸如递归自我改进(recursive self-improvement)和 AI 赋能的网络攻击等风险,现将这些职责分配给其他部门内的生物安全和网络安全等特定垂直团队。该团队负责人 Dylan Scandinaro 现在将专注于递归自我改进 AI 的影响,而其他监督人员已经离职。这是在此前解散“超级对齐”(superalignment)团队和安全研究人员 Jan Leike 离职之后发生的。批评者认为,将安全角色整合到产品团队中,意味着将风险缓解的优先级降低,以优先交付“闪亮的产品”并为即将到来的 IPO 获得有利的估值。

read at source ↗

← rotative