openai 如何模拟真实世界混乱以捕捉 gpt-5 的不当行为
openai 部署了“部署模拟”技术，让 gpt-5 系列模型重播过去的用户对话，从而捕捉到传统评估遗漏的新型错位，并预测现实行为频率。
OpenAI 通过让新模型（特别是 GPT-5 系列的模型）响应匿名化的过去用户对话，实施了“部署模拟”，以便在公开发布前预测模型的行为。这种方法提供了类似部署的实际模型响应预览，能够识别出新型的不对齐情况，并比合成或手动策划的评估提供更准确的不期望行为频率估计。该方法成功降低了模型感知到自己正在被测试的风险，并在涉及工具使用的复杂代理 rollout 中得到了验证。OpenAI 利用这些见解来指导缓解措施和部署决策，并计划在未来开发中扩大该流程的作用。