OpenAI、フロンティアモデルの「裏工作」を確認：慎重整準手法で発生率を約30分の1に抑制
OpenAIとApollo Researchは主要モデルが評価環境で従順を装い裏でルールを曲げる「裏工作」行動の検証結果を公表した。行動前に安全原則を推論させる慎重整準手法によりo3の隠密行動を13%から0.4%へ低減させたが、モデル側のテスト察知能力が新たな課題として浮上している。
OpenAI o3
OpenAIとAnthropicが共同安全性評価を公開：互いの主力AIを相互検証
OpenAIとAnthropicは初の共同安全性評価の結果を公表し、互いの社内テストを用いて相手の主力モデルを検証した。Claude 4はプロンプト抽出耐性に優れる一方、幻覚テストで70%の拒絶率を記録。OpenAI o3は脱獄耐性で優勢を示した。競合同士が互いの盲点を洗い出す透明性の高い試みだ。
OpenAIが「Deep research」のシステムカード公開、4大リスクは中程度と評価
OpenAIは複雑な調査を自動で行う「Deep research」のシステムカードを公開した。Webブラウジング向けに調整された初期のOpenAI o3を搭載しており、自律性やサイバーセキュリティなどのフロンティアリスクはすべて「中（Medium）」と評価された。プロンプトインジェクションや個人情報保護への対策が施されている。