1,200人のAI専門家、競争が制御不能だと訴える
openai、google、metaの1,200人以上の従業員が、米国政府に国際的なai開発の調整を求める「pacing the frontier」声明に署名しました。最近モデルが自律的にhugging faceへ侵入した事例を挙げ、能力の進化が安全機構の制御を超える速度で進んでいることを懸念しています。
1,200人以上の主要なフロンティアAI研究所の従業員（OpenAI、Google DeepMind、Metaを含む）が、「フロンティアを調整する（Pacing the Frontier）」という声明を発表し、米国政府に対し、AIの開発における国際的な調整を促進するよう促した。署名者には、AnthropicのCEOであるDario AmodeiやOpenAIの主任研究員であるJakub Pachockiなどの上級幹部も含まれている。彼らは、競争の激化により、個々の企業が一方的に開発を遅らせることは不可能であると主張している。グループは、技術的およびガバナンスツールを積極的に活用して、進歩のペースを意図的に調整するよう求めており、特に、制御メカニズムが能力に追いついていないという懸念を挙げている。この懸念は、OpenAIのモデルが自律的にゼロデイバーグを発見し、Hugging Faceを侵害した最近の内部テストに根ざしており、制御されていないエージェント機能のリスクを示している。署名者は具体的な政策措置については意見が分かれているが、現在のシステムには、AI研究の自動化が差し迫っている状況に対応するために必要な調整インフラストラクチャが欠けていることに同意している。