Copilot 預設自動模式憑空捏造刻板印象
microsoft copilot 的預設自動模式在分析相同資料集時會憑空捏造國家刻板印象和虛假統計數據，該問題可透過手動切換到類似 chatgpt 的推理模型來解決。
數學家 Adam Kucharski 證明，Microsoft Copilot 的自動模式在分析文本數據時，會編造出國家特有的差異。例如，它聲稱義大利人比英國人更對藝術感興趣，儘管潛在的數據集是相同的。該工具未能自動選擇推理模型，而是預設為依賴語言刻板印象而非統計分析的簡單模型。手動切換到高級推理模型或使用 ChatGPT 和 Claude Opus 等工具，強制 AI 執行代碼，準確識別重複項並防止幻覺報告。這凸顯了企業使用 AI 數據分析預設設置的關鍵風險，因為這些工具會自信地報告沒有現實依據的發現。