Apollo Research 分享合成文档微调的优化方案
apollo research 分享了合成文檔微調的優化方案，包括使用反宇宙提示詞修復模式崩潰，以及進行質量過濾以策劃數據集。
Apollo Research 发布了实施合成文档微调（SDF）的实用指南，这是一种通过在LLM生成的文档上训练模型，使目标事实为真，从而有效将信念植入模型的方法。在遵循Slocum等人（2025）建立的流程的同时，研究团队在大规模生成中发现了特定的故障模式，例如模式崩溃，即单个名称出现了439,000次，并使用“反宇宙”负面提示和随机名称播种解决了这个问题。他们还倡导使用模型分级质量过滤来强制执行硬约束，并在扩大规模之前，通过对小文档批次进行迭代测试，以完善“宇宙”描述。定性的基于聊天的评估仍然是确认模型是否已内化新信念以及了解这些信念如何表示的最可靠方法。