러시아 ChatGPT 봇 팜은 생각보다 똑똑하다
OpenAI는 ChatGPT를 사용해 가짜 싱크탱크를 위한 친크렘린 프로파간다를 생성·번역하던 러시아 클러스터를 차단했습니다. 이는 AI가 정교하고 확장 가능한 허위정보 캠페인의 진입 장벽을 낮추는 방식을 보여줍니다.
OpenAI는 러시아의 행위자들이 VPN을 통해 ChatGPT를 사용하여 가짜 국제 Burke Institute를 위해 콘텐츠를 제작하고 번역하여 서방 여론을 조작하려던 네트워크를 적발하고 차단했다고 밝혔다. 이 작업은 가짜 저자 크레딧으로 학술 기사를 복사하고 X 및 텔레그램과 같은 플랫폼을 위해 여러 언어로 현지화된 선전을 생성하기 위해 AI를 활용했다. 즉각적인 청중의 영향력은 제한되었지만 OpenAI는 인프라가 특히 개방형 모델을 사용하여 이러한 캠페인을 얼마나 쉽게 확장하고 복제할 수 있는지 보여주었다고 경고한다. 이는 OpenAI가 Bad Grammar 및 Operation Helgoland Bite와 같은 다른 러시아 네트워크를 중단시킨 이후로, AI 생성 국가 지원 허위 정보 탐지의 지속적인 과제를 강조한다.