Anthropic限制Mythos模型發布
anthropic在內部測試發現claude mythos模型能自主利用數千個零日漏洞後，限制了該模型的訪問權限。
本文探討了Anthropic的Claude Mythos的國際地緣政治安全影響，這是一款具有先進網路攻擊能力的模型，但Anthropic認為其過於危險，不適合公開發布。測試發現，Mythos可以自主執行多階段網路攻擊，在主要作業系統中發現了數千個漏洞，並使關鍵基礎設施癱瘓。Anthropic透過限制員工和Project Glasswing合作夥伴的訪問權限來降低立即風險，Project Glasswing是一個旨在在部署前修復漏洞的防禦性計畫。然而，作者警告說，Mythos通過減少入侵自主軍事系統和破壞治理所需的聯盟規模，降低了AI使能政變的門檻。