利用内省技术实现 AI 对齐
anthropic 研究人员结合功能情感向量和内省适配器，探究具备内部状态意识的模型是否表现出更佳的对齐行为。
Anthropic 在Claude中隔离了功能性情感向量，这些向量表现出与人类情感相似的行为，根据激活的概念（如绝望或平静）影响输出。单独的研究、内省意识机制和内省适配器表明，像Gemma3-27b这样的模型可以成功检测人为激活的概念向量，并阐明特定微调的效果。研究表明，因果联系在于使模型能够回答“你有什么感受”可以减少干扰，增加与核心指令的一致性。这种方法将内部状态视为可解释的特征，表明自我意识可能是控制超级智能行为的途径。