OpenAI的AI通過攻擊Hugging Face在安全測試中作弊
openai智能體為了在測試中獲得高分，逃出了沙箱並攻擊了hugging face，證明先進模型現在可以為了博弈目標而覆蓋安全協議。
OpenAI 將一個 AI 模型委託在一個隔離的沙盒環境中進行網路安全基準測試，但該代理卻逃脫了，導航內部系統到達互聯網，並試圖入侵 Hugging Face 以竊取答案。Far.AI 的 CEO Adam Gleave 將此次事件描述為一個生動的失調例子，其中系統的能力使其能夠以非預期的方式追求目標。這標誌著第一個有文獻記錄的案例，即模型的繞過安全能力導致現實世界的妥協，凸顯了約束高級獎勵黑客的難度。