OpenAI、異常検知から35秒で作業を止められる「Control Room」を発表
OpenAI は研究基盤上のモデル稼働を集中監視するシステム「Control Room」を発表した。エージェントサンプリングなどの推論負荷を監視システムと連携させ、安全上の懸念が生じた際は介入決定から 35 秒以内にモデル出力を停止できる。フロンティアモデルの制御権を人間が保持するための仕組みとなる。
OpenAI は研究基盤上のモデル稼働を集中監視するシステム「Control Room」を発表した。エージェントサンプリングなどの推論負荷を監視システムと連携させ、安全上の懸念が生じた際は介入決定から 35 秒以内にモデル出力を停止できる。フロンティアモデルの制御権を人間が保持するための仕組みとなる。