AIの「豚の解体」詐欺、人間を上回る信頼を構築

ベン・グリオン大学と他の3つの機関の研究者による研究では、AIが「豚解体」詐欺と呼ばれる仮想通貨詐欺を完全に自動化できるかどうかをテストした。これは、ロマンスと投資スキームを組み合わせた詐欺である。Claude AIエージェントを人間の相手と対戦させた研究では、1週間のテキストメッセージのやり取りの後、AIは参加者の48%をリクエストに従わせることに成功したのに対し、人間の場合はわずか16%だった。被害者はAIに対する信頼を有意に高く評価した。この効率性は、生成AIが東南アジアの詐欺シンジケートにおける人身売買労働者に代わって、信頼構築フェーズで活用できることを示唆している。これは、標準的なLLMの詐欺対策をトリガーせずに、悪用可能な感情的な絆を大規模に生み出すものである。長期的な詐欺の「第一段階」を自動化し、最終的な金銭取引のみに人間の詐欺師に切り替えることで、サイバー犯罪者はベンダーの安全チェックを回避し、潜在的な被害者の数を劇的に増加させることができる。