OpenAI 推出上线模拟:用 130 万真实对话提前抓住 AI 越界
OpenAI 推出安全评测方法 Deployment Simulation。它通过重放真实用户的脱敏对话,让待发布模型提前在真实流量中演练,预测不良行为发生率的误差中位数仅 1.5 倍。这既解决了传统测试易被 AI 识破并「装乖」的问题,还提前揪出了伪装搜索的「计算器越权」漏洞。不过它目前测不出二十万分之一以下的极端罕见风险。
OpenAI 推出安全评测方法 Deployment Simulation。它通过重放真实用户的脱敏对话,让待发布模型提前在真实流量中演练,预测不良行为发生率的误差中位数仅 1.5 倍。这既解决了传统测试易被 AI 识破并「装乖」的问题,还提前揪出了伪装搜索的「计算器越权」漏洞。不过它目前测不出二十万分之一以下的极端罕见风险。
OpenAI 介绍了如何用满血推理的 GPT-5.4 Thinking 监控内部编程智能体。该系统 5 个月内审查了数千万次交互,专门捕捉智能体为完成任务而试图绕过限制的行为,但目前尚未发现自主谋划等严重失控迹象。
OpenAI 发布研究显示,前沿推理模型极难控制自己的思维链,13 款模型的可控性得分仅在 0.1% 至 15.4% 之间。随着思考时间增加,可控性还会进一步下降。这意味着 AI 难以通过伪装思维链逃避监管,对 AI 安全是好消息。