Anthropic联合创始人Olah与梵蒂冈接触——并称其对AI风险的看法是正确的
anthropic聯合創始人chris olah在梵蒂岡發言，承認ai實驗室的激勵機制與安全相沖突，並透露天主教倫理學家影響了claude的憲法。
Anthropic 联合创始人 Chris Olah 在教皇 Leo 发布 AI 循环教令后，在梵蒂冈仪式上发言，表示每个前沿 AI 实验室都面临可能与伦理行为相冲突的激励机制。这次合作源自圣克拉拉大学伦理学家 Brian Patrick Green 和牧师 Brendan McGuire 的 outreach，他们在去年秋天开始与 Olah 会面。McGuire 基于中世纪神秘主义贡献了一份 28 页的评论，以帮助完善 Claude 宪法中的行为参数。这次互动凸显了梵蒂冈的战略「Minerva 对话」，旨在为 AI 行业的 AGI 追求注入道德约束。