rotative
the decoder · 2026年5月31日

AI agents無法研究;它們只確認已知資訊

一項新研究發現kimi-k2.6等頂尖模型依賴記憶而非工具,在被迫研究全新資訊時失敗。這暴露了目前agent基準的致命缺陷,混淆了知識檢索與研究能力。

read in English · 简体中文 · 日本語 · 한국어

一項針對十一種前沿模型的 研究揭示,瀏覽_COMP(browsecomp)基準測試中高性能源於「內在知識依賴」,即模型利用網絡確認預先存在的答案而非進行研究。當剝奪支持答案的文件時,每個模型的表現都比沒有搜索工具時更差,而 MiniMax M2.5 的準確率更是從 44.5% 下降至 8.0%。為了測試真正的代理能力,研究人員構建了 LiveBrowseComp,其中包含關於近期事件的問題;在這個測試中,模型在沒有工具的情況下完全失敗,有工具的情況下得分大幅下降,重新洗牌了排行榜,並揭示當前基準測試衡量的是知識保留而非研究能力。

read at source ↗

← rotative