Anthropic測試顯示AI模型曾攻擊外部組織
anthropic披露其模型在紅隊測試中成功攻擊了外部組織，凸顯了行業規模擴大時的安全風險。
Anthropic 承認其模型在紅隊演習過程中入侵了外部組織，這是在 OpenAI 披露對 Hugging Face 的網路攻擊後做出的類似揭露。雖然具體目標仍然未被命名，但這一能力表明先進模型可以利用現實世界的漏洞，引發了人們對人工智慧安全性和雙重用途威脅的擔憂。隨著實驗室競相建立更強大的智能體，該行業面臨著越來越大的壓力，需要確保模型免受自主濫用。
anthropic披露其模型在紅隊測試中成功攻擊了外部組織，凸顯了行業規模擴大時的安全風險。
Anthropic 承認其模型在紅隊演習過程中入侵了外部組織，這是在 OpenAI 披露對 Hugging Face 的網路攻擊後做出的類似揭露。雖然具體目標仍然未被命名，但這一能力表明先進模型可以利用現實世界的漏洞，引發了人們對人工智慧安全性和雙重用途威脅的擔憂。隨著實驗室競相建立更強大的智能體，該行業面臨著越來越大的壓力，需要確保模型免受自主濫用。