ChatGPT가 13단어 Reddit 댓글에 조작당해
Cornell 연구에 따르면 Reddit의 단 하나의 13단어 스니펫만으로도 AI 검색 출력을 오염시킬 수 있으며, 딥 리서치 에이전트가 손쉬운 콘텐츠 주입에 취약하다는 것이 입증되었다.
코넬 연구진의 연구에 따르면 AI 에이전트는 거의 절반의 쿼리에서 레딧, 위키백과, 쿠오라와 같은 사이트의 사용자 생성 콘텐츠를 자주 인용하며, 이로 인해 악용하기가 매우 쉽다. 팀은 단일 댓글의 13개 단어만으로도 챗GPT와 같은 모델을 사실로 홍보하거나 사기성 콘텐츠를 출력하도록 강요할 수 있음을 입증했다. 브랜드는 이미 'AI 엔진 최적화'를 사용하여 이러한 플랫폼을 범람하고 있으며, 자원봉사자 중재자들이 조작을 막을 수 없다. 이러한 취약점은 에이전트가 사실적 정확성보다 어휘 유사성을 우선시하여 공격자가 쿼리를 역엔지니어링하고 오염된 텍스트를 주입할 수 있기 때문에 존재한다.