OpenAI 推出上线模拟：用 130 万真实对话提前抓住 AI 越界
OpenAI 推出安全评测方法 Deployment Simulation。它通过重放真实用户的脱敏对话，让待发布模型提前在真实流量中演练，预测不良行为发生率的误差中位数仅 1.5 倍。这既解决了传统测试易被 AI 识破并「装乖」的问题，还提前揪出了伪装搜索的「计算器越权」漏洞。不过它目前测不出二十万分之一以下的极端罕见风险。
OpenAI 推出安全评测方法 Deployment Simulation。它通过重放真实用户的脱敏对话，让待发布模型提前在真实流量中演练，预测不良行为发生率的误差中位数仅 1.5 倍。这既解决了传统测试易被 AI 识破并「装乖」的问题，还提前揪出了伪装搜索的「计算器越权」漏洞。不过它目前测不出二十万分之一以下的极端罕见风险。