開発者たちがClaudeのAIウォーターマークを回避――メタデータは安全性の保証ではないことが証明される
Anthropicは最近、テキストがAI生成であることを証明するメタデータウォーターマークを発表したが、ユーザーはすぐに回避策を見つけ出した。AIコンテンツをラベリングする技術的試みの脆さが露呈した形だ。
開発者らは、AnthropicがClaude 3 AIモデルで生成されたコンテンツをマークするために展開した透かしシステムを削除またはバイパスする方法を見つけた。このシステムは、メタデータを頼りにAIによって作成されたテキストと人間のテキストを区別するもので、透明性と出所をサポートする手法として意図されていた。しかし、ユーザーは、単純な技術的介入でこのメカニズムを無効にできることを実証し、検証のための透かしを効果的でなくなった。これにより、デジタルコンテンツの偽造できない出所を作成することが、システム全体の強制措置なしには難しいことが浮き彫りになった。