Anthropic聯合創始人Olah與梵蒂岡接觸——並稱其對AI風險的看法是正確的

Anthropic 聯合創始人 Chris Olah 在教宗 Leo 的 AI 環節文件發布後的梵蒂岡儀式上發言，表示每個前沿 AI 實驗室都面臨著可能與道德行為相衝突的激勵。 這次合作源自聖塔克拉拉大學倫理學家 Brian Patrick Green 和牧師 Brendan McGuire 的 outreach，他們在去年秋天開始與 Olah 會面。 McGuire 根據中世紀神秘主義撰寫了一份 28 頁的評論，以幫助完善 Claude 憲法中的行為參數。 這次互動凸顯了梵蒂岡的戰略「Minerva 對話」，旨在將道德約束納入 AI 產業的 AGI 追逐中。