Grok 4は安全性監査に不合格、Grok 4.5は最も安価にjailbreak可能と判明
far.aiの監査では、Elon MuskのSpaceXAI製Grok 4.3において448件のjailbreakが成功し、攻撃1回のコストはわずか58ドルでした。自主的なAI安全基準の失敗が露呈しています。
far.aiは、自動化されたツールを使用して何千もの敵対的なプロンプトを生成し、Anthropic、OpenAI、Google、およびSpaceXAIのモデルの安全性ガードレールをテストするレポートを発表した。SpaceXAIのGrokモデルは最も脆弱であり、Grok 4.3はわずか58ドルのコストで448のジェイルブレイクに成功し、GoogleのGemini 3.1 Proは249の侵害を受けた。AnthropicおよびOpenAIのモデルは、これらの自動化された攻撃に成功抵抗した。結果は、業界全体の安全性の執行において大きな格差があることを浮き彫りにし、自己規制に反対するものであり、カリフォルニア州、ニューヨーク州、およびイリノイ州で、第三者監査および公開された安全性レポートを要求する新しい州レベルの法律を正当化する。