AIで加工した「subtlefakes」が疑念をすり抜ける——いまやXに浸食中
「subtlefakes」と呼ばれる新たなトレンドでは、AIを使って有名人の実在写真をわずかに改変し、より挑発的に見せている。これによりdeepfakeが通常引き起こす疑念を回避でき、検出がより困難になり、標的にとってより危険なものとなっている。
新たなトレンドとして、「サブルフェイクス(subtlefakes)」と呼ばれるものが出現している。これは、AIを利用して、有名人の実際の写真を少しだけ改変し、より扇情的なものにすることで、通常のディープフェイクによって引き起こされる疑念を回避し、ターゲットにとってより発見が困難で危険なものにしている。脈絡が信じがたいために明らかに偽物であることが多い明白なディープフェイクとは異なり、レッドカーペットの実際の写真でのドレスや体の比率の変更などのこれらの微妙な編集は、より説得力があり、合成であると識別することが困難である。これらの画像は、多くの場合、X上の検証済みのエンゲージメント・ファーミング・アカウントによって投稿され、プラットフォームの支払いシステムを悪用して嫌がらせから利益を得ている。このような明らかなディープフェイクから微妙な編集への移行は、悪意のあるアクターがより洗練されてきており、コンテンツのモデレーションと、「偽の」コンテンツを識別することに頼る法的枠組みの両方にとって新しい課題を生み出していることを示している。