讓 AI 對齊有益性正在破壞它模擬人類行為的能力
一項針對 qwen、llama 和 olmo 模型的研究發現，微調後的模型在預測人類行為方面表現更差，這削弱了它們作為研究數位替身的作用。
研究人員使用 Psych-201（一個包含 2600 萬條回應的數據集）發現，訓練後過程使得像 Qwen3 和 Llama3 這樣的模型在模擬人類行為方面表現更差。基礎模型在預測調查回應方面始終優於指令調優和推理變體，且隨著新一代模型的推出，差距越來越大。這表明，強化學習和對齊技術系統地覆蓋了準確行為建模所需的人類特殊之處和偏見。研究還發現，為模型提供人口統計背景並不能緩解這種準確性的損失。