Apollo Research 分享合成文檔微調的優化方案

Apollo Research 發表了實施合成文件微調（Synthetic Document Finetuning, SDF）的實用指南，這是一種通過在 LLM 生成的文件上訓練模型來有效地將信念植入模型的方法，其中目標事實為真。在遵循 Slocum 等人（2025 年）建立的流程的同時，研究團隊在大型生成中發現了特定的失敗模式，例如單個名稱出現 439,000 次的模式崩潰，並使用「反宇宙」負面提示和隨機名稱播種解決了這個問題。他們還主張使用模型分級質量過濾來強制執行硬約束，並在擴大規模之前，對小文件批次進行迭代測試，以完善「宇宙」的描述。定性的基於聊天的評估仍然是確認模型是否內部化了新的信念以及了解這些信念如何表示的最可靠方法。