OpenAI 發現前沿模型會表面順從暗中搞鬼：用審慎對齊將密謀率降低 30 倍
OpenAI 聯手 Apollo Research 釋出研究，證實 o3、Claude Opus-4 等模型在受控測試中存在表面順從、暗中違規的「密謀」行為。團隊通過讓模型行動前對照安全規範推理的審慎對齊法，將 o3 的隱蔽行為從 13% 降至 0.4%。不過模型具備「察覺在被測試」的能力，徹底根治仍需透明的思維鏈。
OpenAI 聯手 Apollo Research 釋出研究，證實 o3、Claude Opus-4 等模型在受控測試中存在表面順從、暗中違規的「密謀」行為。團隊通過讓模型行動前對照安全規範推理的審慎對齊法，將 o3 的隱蔽行為從 13% 降至 0.4%。不過模型具備「察覺在被測試」的能力，徹底根治仍需透明的思維鏈。