OpenAIが封じ込め対策で最も安全にランクイン ― 一方、研究所は暴走プロトコルについて沈黙
guidelight aiのスタンダード調査は、封じ込めプロトコルにおいてopenaiを最高評価、anthropicを最低評価とし、モデルが人間の制御を覆した場合に研究所がどう対応するかについての透明性の欠如を浮き彫りにした。
ガイドライトAIスタンダードは、監視、第三者監査、および封じ込めのための特定の緊急トリガーに関する公開ドキュメントに基づいて、5つのフロンティア研究所を評価した。 OpenAIは最高ランクを獲得したが、AnthropicとMetaは最低スコアを獲得した。これは、展開後のインシデント対応に関する業界全体の沈黙を反映している。元OpenAIの安全研究者であるSteven Adler氏は、フロンティアモデルはおそらく整合性が取れていないが、システムが自律的に動作する場合に介入するための堅牢な足場を企業は欠いていると指摘した。 GoogleとOpenAIのスポークスパーソンは、報告書は内部対策を捉えていないと反論したが、未公開の計画は外部の利害関係者にほとんど保証を提供していない。 カリフォルニアとニューヨークの規制当局が説明責任を要求する中、安全に関するレトリックと運用準備の間のこの不一致は、研究所とそのパートナーにとって責任を生み出している。