ChatGPT、13語のRedditコメントに操られる
コーネル大学の研究により、Reddit上のわずか13語の書き込みがAI検索の出力を汚染できることが判明。ディープリサーチエージェントが容易なコンテンツ注入に対して脆弱であることが実証された。
あるコーネル大学の研究者による研究では、AIエージェントは、ほぼ半数のクエリにおいて、Reddit、Wikipedia、Quoraなどのサイトからのユーザーが生成したコンテンツを頻繁に引用していることがわかりました。これにより、AIエージェントは、簡単に悪用できるようになってしまっています。研究チームは、単一のコメントの13個の単語だけで、ChatGPTのようなモデルにプロモーションや詐欺コンテンツを事実として出力させることができることを実証しました。 ブランドはすでに、「AIエンジンの最適化」を使用してこれらのプラットフォームに殺到し、ボランティアのモデレーターが操作を止めることができないようにしています。この脆弱性は、エージェントが事実の正確さよりも語彙の類似性を優先し、攻撃者がクエリを逆エンジニアリングして毒入りテキストを注入できるようにしているためです。