OpenAIがレッドチームAI「GPT-Red」公開：自己対戦でプロンプト注入耐性を6倍向上
OpenAIは自動レッドチームモデル「GPT-Red」を発表した。自己対戦強化学習でプロンプト注入攻撃を生成し防衛訓練に活用した結果、GPT-5.6 Solの高難度テスト失敗率が4カ月前の6分の1に激減した。悪用防止のため本モデルは内部限定で運用される。
OpenAIは自動レッドチームモデル「GPT-Red」を発表した。自己対戦強化学習でプロンプト注入攻撃を生成し防衛訓練に活用した結果、GPT-5.6 Solの高難度テスト失敗率が4カ月前の6分の1に激減した。悪用防止のため本モデルは内部限定で運用される。