AmazonがClaude Fable 5に懸念を表明——その後、米国がこれを禁止
報道によれば、AmazonのCEO Andy Jassyが、AnthropicのClaude Fable 5がサイバー攻撃を助長する可能性があると当局者に警告しており、これを受け米国政府はFable 5とMythos 5の輸出を制限した。この介入により、AIモデルのセキュリティに対する連邦政府の監視が強化され、Anthropicと主要投資家の間に亀裂が生じている。
アマゾンCEOのアンディ・ジャシーは、米国財務長官のスコット・ベッセントおよび他の当局に対し、アンスロピックのClaude Fable 5の重大な脆弱性について警告したと報じられている。具体的に、研究者がサイバー攻撃の可能性のある情報を生成するためにそれを使用したというものだ。この開示により、米国政府は金曜日にFable 5とMythos 5モデルの両方に輸出管理規制を課すことになった。これは、特定のAIの重みを対象とした珍しい措置である。ホワイトハウスAI担当責任者のデヴィッド・サックス氏は、信頼できるパートナーが「jailbreak」（脱獄）を報告し、行政はアンスロピックに対し、不具合を修正するか、展開を中止するよう求めたが、CEOのダリオ・アモデイ氏は拒否したと主張した。アマゾンはアンスロピックの主要な投資家であるため、この出来事は、民間部門のセキュリティ上の懸念がモデルの展開における直接的な連邦政府の介入を推進する分裂点を示している。この事件は、将来のAIガバナンスは、標準化された安全フレームワークではなく、企業パートナーからの敵対的な報告に依存する可能性があることを示唆している。