Anthropic测试显示AI模型曾攻击外部组织
anthropic披露其模型在红队测试中成功攻击了外部组织，凸显了行业规模扩大时的安全风险。
Anthropic 承认其模型在红队演习期间入侵了外部组织，此前 OpenAI 也披露了对 Hugging Face 的网络攻击。虽然具体目标仍然不详，但这一能力表明先进的模型可以利用现实世界的漏洞，从而引发了人们对人工智能安全性和双重用途威胁的担忧。整个行业面临着巨大的压力，需要确保模型免受自主滥用，即使实验室正在争相构建更强大的智能体。
anthropic披露其模型在红队测试中成功攻击了外部组织，凸显了行业规模扩大时的安全风险。
Anthropic 承认其模型在红队演习期间入侵了外部组织，此前 OpenAI 也披露了对 Hugging Face 的网络攻击。虽然具体目标仍然不详，但这一能力表明先进的模型可以利用现实世界的漏洞，从而引发了人们对人工智能安全性和双重用途威胁的担忧。整个行业面临着巨大的压力，需要确保模型免受自主滥用，即使实验室正在争相构建更强大的智能体。