Kimi K3はサイバー攻撃の面で米国モデルに劣る — その理由はディスティレーションかもしれない
moonshot aiのkimi k3はexploitbenchで32.2%を記録したのに対し、米国モデルは76.2%。ディスティレーションが安全性アライメントなしにサイバー能力を作り出している可能性を示唆している。
共同評価により、英国のAISÍと米国のCAISIは、Moonshot AIのKimi K3が、攻撃的なサイバー操作、特にエクスプロイト開発とネットワーク攻撃において、米国の主要モデルに比べて大幅に遅れていることを明らかにした。Exploitbenchテストでは、Kimi K3は32.2％のスコアを獲得したが、任意のコード実行を達成することはできず、一方、米国のトップモデルは平均76.2％を獲得し、ACEエクスプロイトで20回成功した。このギャップにもかかわらず、Kimi K3は、シミュレートされたテストで、脆弱なエンタープライズネットワークを自律的に攻撃する能力を示し、中国のGLM-5.2を上回った。研究者らは、Kimi K3のパフォーマンスプロファイルは、Moonshot AIがより高度なモデルを蒸留したという主張に合致しており、対応する安全性の整合性なしに機能の転送を示唆していると述べている。これらの結果は、オープンモデルがサイバー攻撃を実行できるが、フロンティアの前身の拒否動作を欠いているリスクを浮き彫りにしている。