なぜセキュリティ専門家はフロンティアモデルから離れつつあるのか
anthropicとopenaiのサイバーセキュリティ向けガードレールにより、攻撃側の研究者は脆弱性を特定するために規制のないオープンソースモデルを使わざるを得なくなっている。
Anthropic や OpenAI などの AI ラボは、Mythos のようなモデルのサイバー攻撃での悪用を防ぐために、厳格な審査済みプログラムとガードレールを維持している。しかし、オフensive セキュリティ研究者らは、これらの制限が、コードの脆弱性を確認するなどの正当な防御作業を妨げていると報告している。クラウドベースのモデルは、機密性の高いゼロデイ データの漏洩リスクもあるため、研究者はフロンティア モデルを避ける傾向が強まっている。その代わりに、必要なセキュリティ テストを実行するために、安全性フィルターのないオープンソースの代替手段に頼っている。