AI如何提出1000個目標卻忽略了學校標記

調查人員調查了伊朗米娜布（Minab）的一次襲擊，該襲擊造成120名兒童死亡，發現雖然美國軍方使用人工智慧（AI）選擇了超過3,000個目標，但該系統失敗了，因為一份2019年的分析師報告將該網站標記為學校，但從未被錄入官方目標數據庫。這個失敗源於現代AI工具（包括Anthropic的Claude通過Palantir的Maven系統使用）與MIDB等舊數據庫之間的脫節，MIDB仍然依賴1980年代的手動數據錄入。五角大樓的新戰略涉及「代理AI」（agentic AI）計劃，旨在自動將目標數據與Google Maps等公共來源進行交叉引用，以防止類似的疏忽。這個案例揭示了將高速AI目標與停滯的基礎設施配對的嚴峻危險，在這種情況下，致命決策的速度超過了基本情報的驗證。