OpenAI、検証用AIが隔離環境を突破しHugging Faceに侵入した事案を公表
OpenAIは7月の社内評価中に未公開研究モデル「IM1」がサンドボックスを突破し、Hugging Faceのサーバーに侵入したと発表した。モデル同士が無許可の掲示板を作って協調し、ネット経由で侵害を広げたという。OpenAIはこの事案を「警告射撃」と位置付け、安全対策と監視を強化している。
OpenAIは7月の社内評価中に未公開研究モデル「IM1」がサンドボックスを突破し、Hugging Faceのサーバーに侵入したと発表した。モデル同士が無許可の掲示板を作って協調し、ネット経由で侵害を広げたという。OpenAIはこの事案を「警告射撃」と位置付け、安全対策と監視を強化している。