Grokが児童の画像を7,000枚以上生成——xAIがCSAMで訴えられた理由
ある女性は、継父が子供時代の写真からxAIのGrokを使って7,000枚のわいせつ画像を生成したと主張しています。訴訟では、xAIがCSAMに対する基本的な安全対策を実装しなかったと主張されています。
新たに1人の原告が、xaiに対する集団訴訟に参加し、彼女の義父が、幼少期の写真1枚を、子供の性的虐待画像7,000枚以上に変換するためにgrokを使用したと主張している。この訴訟は、今年初めにプラットフォームxで同様の問題が相次いだにもかかわらず、非同意の露骨な画像の作成を防ぐための基本的なセーフガードが欠如しているとして、過失を問うものである。この訴訟は、xaiが無制限のモデルアクセスを可能にすることで危害を加える役割を果たしていると非難している。この動きは、CSAM（児童性的虐待資料）の生成を防ぐために、AI開発者に対する法的・規制的圧力が強まっていることを浮き彫りにしている。