ロシアのChatGPTボットファームは思ったより巧妙

OpenAIは、VPNを経由してChatGPTを使用し、偽の国際バーク研究所のためにコンテンツを作成および翻訳したロシアのアクターのネットワークを明らかにし、禁止した。この操作は、学術論文を偽の著者クレジットでコピーし、XやTelegramなどのプラットフォームのための複数の言語のローカライズされたプロパガンダを生成するためにAIを活用した。直ちに影響は限定されていたが、OpenAIは、このインフラストラクチャが、特にオープンモデルで、このようなキャンペーンをどれだけ簡単に拡大および複製できるかを示した、と警告している。これは、OpenAIがBad GrammarやOperation Helgoland Biteなどの他のロシアのネットワークを破壊したのに続き、AI生成の国家支援による偽情報の検出が持続的な課題であることを浮き彫りにしている。