OpenAI 新治理框架將模型關閉協議與歐盟法律掛鉤
openai 發布了前沿治理框架 (fgf),界定了系統風險閾值(如 10 億美元損失或 50 人死亡),以此強制企業部署實施嚴格的監管和緩解協議。
OpenAI 發布了前沿治理框架(FGF),這是一個藍圖,將內部 AI 安全與歐盟通用 AI 法規和加利福尼亞州的前沿 AI 透明度法案相一致。它將「系統性風險」量化為造成 50 人以上死亡或 10 億美元以上損失的事件,要求對高風險模型進行嚴格緩解。分層評估對網路、CBRN 和操縱領域的威脅進行分類,定義了對自主代理(包括那些能夠逃避人類控制的代理)的特定監督要求。這為企業領導者提供了一種結構化方法,以便將計算資源分配給部署後監控,並確保 AI 生命周期合規。