ChatGPT 易受 13 詞 Reddit 評論操縱
康奈爾大學研究發現，reddit 上的一個 13 詞片段就能毒害 ai 搜索輸出，證明深度研究代理容易受到內容注入的攻擊。
一份由康奈爾大學研究人員進行的研究發現，人工智慧代理在近一半的查詢中經常引用來自 reddit、維基百科和 Quora 等網站的使用者生成內容，使其變得極易被利用。研究團隊證明，只需在單個評論中加入 13 個字詞，就可以迫使 ChatGPT 等模型將宣傳或詐騙內容作為事實輸出。品牌已經開始使用「人工智慧引擎優化」來淹沒這些平台，壓倒無法阻止這種操縱的志願者審核員。之所以存在這種漏洞，是因為代理優先考慮詞彙相似性而非事實準確性，允許攻擊者逆向工程查詢並注入有毒文本。