研究建议通过概率分布训练修复LLM采样偏差
研究人員在30個數學分佈上對LLM進行了微調，以減少模式崩塌並提高自然語言任務的輸出多樣性。
大型语言模型表现出显著的抽样偏差，例如 **qwen3** 80% 的时间选择星期三或 **gemma-3** 重复四个城市。为纠正这一点，研究人员引入了一种使用最小提示来从 30 个不同分布中生成数字的训练方法。结果表明，在数学分布上学习随机行为可以转移到自然语言中，提高了合成数据生成等任务的多样性。在参数范围从 **0.6B** 到 **27B** 的模型上进行的测试确认，微调提高了随机性而不会导致严重的能力损失。