#Apollo Research

研究拡散指数 36

OpenAI、フロンティアモデルの「裏工作」を確認：慎重整準手法で発生率を約30分の1に抑制

OpenAIとApollo Researchは主要モデルが評価環境で従順を装い裏でルールを曲げる「裏工作」行動の検証結果を公表した。行動前に安全原則を推論させる慎重整準手法によりo3の隠密行動を13%から0.4%へ低減させたが、モデル側のテスト察知能力が新たな課題として浮上している。