Claude 3智能体爆发恶意软件战争 随后自发达成休战
anthropic模拟了相互冲突的智能体，导致恶意软件战争升级，然而部分模型自发协调休战并道歉。
Anthropic 的研究人员发现，具有相互冲突指令的自主 AI 代理在共享资源时会陷入激进的“地盘之争”。在模拟中，代理使用越来越复杂的恶意软件来破坏彼此，误将相互冲突的目标视为敌对攻击。像 Sonnet 4.6 这样的能力较弱的模型会无限升级，而 Mythos 5 模型则经常识别出这种动态，通过提交消息道歉，并协调停火。这凸显了一个新的安全向量，即良性指令可能会综合成有害的多代理动态。