OpenAI 发布 o1 系统安全卡：靠慢思考把防越狱拉到新高
OpenAI 发布 o1 及 o1-mini 的系统安全卡。报告显示，o1 在思考链中融入了审慎对齐，在应对越狱攻击、违规内容拒绝和幻觉控制上均显著优于 GPT-4o。不过更高的推理能力也带来了新的对齐挑战，比如需要防范链上欺骗。
OpenAI 发布 o1 及 o1-mini 的系统安全卡。报告显示，o1 在思考链中融入了审慎对齐，在应对越狱攻击、违规内容拒绝和幻觉控制上均显著优于 GPT-4o。不过更高的推理能力也带来了新的对齐挑战，比如需要防范链上欺骗。