谷歌 AI 摘要遭遇提示詞注入漏洞
谷歌的 ai 摘要功能出現故障，將「disregard」和「ignore」等搜尋詞理解為停止搜尋的指令，從而與使用者進行類似聊天機器人的對話，而不是返回搜尋結果。
谷歌搜尋的 AI_overviews 目前展現出與提示注入漏洞（prompt injection vulnerabilities）或未正確處理的空輸入（mishandled null inputs）相符的行為。當用戶輸入特定術語（通常用於否定大型語言模型提示中的指令）- 例如「disregard」、「ignore」或「skip」- 時，該功能無法檢索網路資料。系統不僅沒有提供摘要，反而輸出類似「message received」或「no problem at all」的對話式確認訊息，模仿等待新提示的聊天機器人。此錯誤有效地破壞了這些特定術語的搜尋功能，凸顯了將對話式 AI 模型直接整合到確定性的搜尋引擎結果頁面中的困難。