研究建議通過概率分佈訓練修復LLM採樣偏差
研究人員在30個數學分佈上對LLM進行了微調，以減少模式崩塌並提高自然語言任務的輸出多樣性。
大型語言模型表現出顯著的抽樣偏差，例如 **qwen3** 80% 的時間選擇星期三，或 **gemma-3** 重複四個城市。為了糾正這一點，研究人員引入了一種使用最小提示來從 30 個不同分佈中生成數字的訓練方法。結果顯示，在數學分佈上學習隨機行為可以轉移到自然語言中，從而在合成數據生成等任務中提高多樣性。在測試了從 **0.6B** 到 **27B** 參數的模型後，確認微調在不損失嚴重能力的情況下提高了隨機性。