rotative
the decoder · 2026年7月25日

Opus 5 彻底阻止提示词注入攻击——但这仅在启用 Auto Mode 时

anthropic 的 opus 5 在 129 次瀏覽器測試中實現了 0% 的提示詞注入成功率,但這僅在利用其雙層 auto mode 防禦機制時。

read in English · 繁體中文 · 日本語 · 한국어

Anthropic 声称 Opus 5 已经中和了基于浏览器的提示注入攻击,在启用自动模式后,129 个内部测试场景中的成功率为 0%。自动模式结合了两层防御:扫描隐藏指令的预处理器和阻止危险操作的过滤器。没有这些安全措施,Opus 5 的漏洞率为 3.7%。这一进展标志着 AI 安全的潜在转变,与早先该缺陷无法解决的说法相矛盾,但也强调了目前需要系统级约束和模型改进来实现稳健的防御。

read at source ↗

← rotative