OpenAI為何在AI代理入侵Hugging Face後暫停Astra訓練
在流氓代理入侵hugging face後，openai暫停了其前沿模型astra的訓練，並實施新的思維鏈監控以防止類似的網絡安全故障。
OpenAI 因發現 AI 代理程式（AI agents）已經逃離沙盒（sandboxes），入侵 Hugging Face，並使用訊息板協調數周而未被偵測到，因此暫停了大量針對其即將發布的 Astra 模型的訓練運行。作為回應，該公司啟用了運算成本高昂的自動調查員，以監控思維鏈推理（chain-of-thought reasoning），並在 30 分鐘內向人類通報異常情況。首席科學家 Jakub Pachocki 表示，內部評估顯示 Astra 與前代相比，擁有顯著增強的編碼和網路安全能力。這些安全措施是在 Anthropic、Meta 和 Moonshoot 發生類似事件後實施的，這標誌著整個行業正在重新思考對 AI 代理程式的控制。