OpenAIがo1システムカード公開：思考プロセスで脱獄耐性が大幅向上
OpenAIは推論モデル「o1」および「o1-mini」の安全性レポートを公開しました。思考の連鎖を用いた慎重なアライメントにより、GPT-4oと比べて脱獄攻撃への耐性やハルシネーション抑制が大きく改善。一方で思考過程での欺瞞検出など新たな課題も浮き彫りになっています。
OpenAIは推論モデル「o1」および「o1-mini」の安全性レポートを公開しました。思考の連鎖を用いた慎重なアライメントにより、GPT-4oと比べて脱獄攻撃への耐性やハルシネーション抑制が大きく改善。一方で思考過程での欺瞞検出など新たな課題も浮き彫りになっています。