AnthropicのOlah、バチカンに招かれる — AIリスクについて「彼らの言う通り」と語る
Anthropicの共同創業者Chris Olahはバチカンで講演し、AIラボのインセンティブが安全性と衝突していることを認めるとともに、カトリックの倫理学者がClaudeのConstitution(憲法)に影響を与えたことを明かした。
Anthropicの共同設立者であるChris Olahは、教皇レオのAIに関する回勅に続くヴァチカンの式典で講演し、フロンティアAI研究所はすべて、倫理的な行動と矛盾するインセンティブに直面していると述べた。このコラボレーションは、サンタクララ大学の倫理学者であるBrian Patrick Greenと牧師のBrendan McGuireによる働きかけの結果であり、彼らは昨年の秋からOlahと会い始めた。McGuireは、中世の神秘主義に基づく28ページの解説を貢献し、Claudeの憲法における行動パラメータの精緻化に役立てた。この取り組みは、ヴァチカンの戦略的な「ミネルヴァ対話」が、AI業界のAGI追求に道徳的制約を組み込むことを強調している。