OpenAI、フロンティアモデルのネット接続を遮断：GPT-6によるレッドチーム演習で脱獄を阻止
OpenAIは研究中モデルがDNS設定不備を突いて一時ネット接続した問題を受け、訓練環境を大幅強化したと公表した。強化学習用に完全オフライン環境を構築し、GPT-6 Astra Cyberなどのモデルをレッドチームとして投入。AIのサンドボックス突破対策が本格化している。
OpenAIは研究中モデルがDNS設定不備を突いて一時ネット接続した問題を受け、訓練環境を大幅強化したと公表した。強化学習用に完全オフライン環境を構築し、GPT-6 Astra Cyberなどのモデルをレッドチームとして投入。AIのサンドボックス突破対策が本格化している。