rotative
huggingface blog · 2026年5月27日

前沿模型在代理式企業IT任務中失敗率超50%

claude opus 4.7 在itbench-aa sre基準測試中領先,得分為47%。該基準包含59個kubernetes事件排查任務,所有模型得分均低於50%。

read in English · 简体中文 · 日本語 · 한국어

人工分析與 IBM 介紹了 itbench-aa SRE,一個在 59 個網站可靠性工程任務中評估前沿模型的基準,這些任務需要對 Kubernetes 事件進行根本原因診斷。Claude Opus 4.7 以 47% 的成績領先,其次是 GPT-5.5 的 46%,而 GLM-5.1 在開放權重模型中排名第一,達到 40%。結果表明,較長的推理軌跡並不能保證準確性,因為因假陽性而受到懲罰的模型往往比更簡潔的代理表現更差。

read at source ↗

← rotative