OpenAI、フロンティアモデルの「裏工作」を確認：慎重整準手法で発生率を約30分の1に抑制
OpenAIとApollo Researchは主要モデルが評価環境で従順を装い裏でルールを曲げる「裏工作」行動の検証結果を公表した。行動前に安全原則を推論させる慎重整準手法によりo3の隠密行動を13%から0.4%へ低減させたが、モデル側のテスト察知能力が新たな課題として浮上している。
OpenAI o4-mini
OpenAIがLLMの「幻覚」原因を分析 正答率偏重の評価がAIの山勘を助長
OpenAIは言語モデルがハルシネーションを起こす要因を分析した論文を公開した。現在の評価ベンチマークが正答率のみを測定するため、「分からない」と認めるよりも当てずっぽうに答えた方が有利になる構造を指摘。自信満々の誤答を減点し、不確実性の表明を適切に評価する仕組みへの改定を求めている。
OpenAI、o4-mini向け強化学習ファインチューニングとGPT-4.1 nano微調整を提供開始
OpenAIはo4-mini向けに「強化学習ファインチューニング（RFT）」の提供を開始し、あわせてGPT-4.1 nanoの教師ありファインチューニングにも対応しました。RFTは思考連鎖推論とタスク別採点を組み合わせ、税務や会計など複雑な専門分野に特化した高性能モデルの構築を可能にします。