ChatGPT 易受 13 词 Reddit 评论操纵
康奈爾大學研究發現，reddit 上的一個 13 詞片段就能毒害 ai 搜索輸出，證明深度研究代理容易受到內容注入的攻擊。
一项由康奈尔大学研究人员进行的研究发现，人工智能代理在近一半的查询中经常引用来自Reddit、Wikipedia和Quora等网站的用户生成内容，使其变得轻而易举地被利用。研究团队演示了仅用一个评论中的13个字就能迫使像ChatGPT这样的模型将宣传或诈骗内容作为事实输出。品牌已经在使用“AI引擎优化”来淹没这些平台，压倒无法阻止这种操纵的志愿者管理员。这种漏洞存在是因为代理优先考虑词汇相似性而不是事实准确性，允许攻击者逆向工程查询并注入有毒文本。