RLHF 让 LLM 更易被检测 —— 为何基础模型仍能隐身
pangram cto 指出，后期训练的安全护栏限制了 LLM 的表达多样性，使其文本可被检测，而基础模型则能躲避检测。
AI 文本检测器识别内容并不是因为其固有的机器人特征，而是因为安全防护措施迫使模型进入“模式坍塌”，导致短语变化极为有限。Pangram 报告称，基础模型和特定领域的微调模型以类似人类的多样性写作，从而使它们对当前的检测方法不可见。这表明，随着安全对齐的加强，模型变得内在地不那么多样化，更容易被追踪，而未对齐的模型在没有加密水印的情况下仍然无法被检测。