OpenAI 測試良好行為是否能在各領域泛化
openai 研究人員使用「有益特徵」強化學習訓練，在 44 個基準測試中提高了模型安全性，顯示良好習慣可在不同領域間轉移。
OpenAI 研究人員測試了透過強化學習在特定領域中強化良好行為是否能推廣到其他領域。他們在醫療保健、法律和教育等領域中訓練了諸如真實性和公平性等特質，然後在 53 個基準上進行測試。該模型在涵蓋欺騙和獎勵黑客的 44 項評估中有所改善，表明積極的行為模式廣泛傳遞。此外，「有益特質」模型表現出「選擇性持久性」，抵禦對抗性提示和有害的微調，同時保持在有幫助任務中的可控性。這與 Anthropic 的憲法式 AI 相比，OpenAI 依靠經驗上可測量的特質，而不是書面的憲法。