本文へスキップ
IFAI

研究

マイクロソフト、事後学習不要の推論フレームワーク「CLIO」発表

公開 拡散指数 33

Microsoftは追加の強化学習を行わずに実行時の自己反省ループで推論を最適化する「CLIO」を発表した。高難度ベンチマークHLEの生物・医学分野において、GPT-4.1の正答率を8.55%から22.37%に引き上げ、OpenAIのo3を上回った。研究者が不確実性の閾値を設定し、途中で介入・修正できるのが強みだ。

マイクロソフト、事後学習不要の推論フレームワーク「CLIO」発表
画像:microsoft.com

最先端の創薬や新材料の開発にAIを使おうとすると、一つの壁にぶつかります。推論モデルの思考パターンは事前訓練後のポストトレーニングで固定されており、研究者が途中で介入したり軌道修正したりすることができません。

マイクロソフトの研究部門が、事前学習後の強化学習に頼らず、実行時に自律的な思考ループを回す新しい推論フレームワーク「CLIO」を発表しました。

難関ベンチマーク「Humanity's Last Exam(HLE)」の生物学・医学分野において、通常のGPT-4.1の正解率を8.55%から22.37%へと引き上げ、OpenAIのo3(high)を上回る結果を出しています。

ポストトレーニングを不要にする現場最適化ループ

既存の推論モデルは、RLHFや強化学習によって開発元が思考パターンを作り込みます。このアプローチではユーザーが思考プロセスを制御できず、未知の科学的発見に必要なデータも事前には存在しません。

CLIOはこれに対し、実行時に内部で反省と仮説生成のループを回す「インシチュ最適化」を採用しました。追加の学習データを必要とせず、推論途中で自ら探索戦略を組み立てます。

GPT-4.1にCLIOの再帰ループを適用しただけで正解率が5.92%向上し、さらにGraphRAGを組み合わせて複数の思考パスを統合したところ、追加で7.90%スコアが伸びました。

HLEで2%未満しか取れなかったGPT-4oでも、免疫学のサブセット問題で13.60%の改善を見せ、最新の専用推論モデルに匹敵する性能を示しています。

自信過剰を防ぎ、人間が途中で介入できるダイヤル

研究現場で最も危険なのは、AIが間違っているのに堂々と回答することです。従来のモデルには自身の不確実性を謙虚に認識する機能が不足していました。

CLIOにはプロンプト不要の制御ノブが用意されており、システムが自身の不確実性を検知してフラグを立てるしきい値を設定できます。

研究者は思考の途中で立ち止まり、モデルの前提を編集したり批判を加えたりした上で、その時点から再計算を実行させることが可能です。

この仕組みは特定のモデルに依存せず、マイクロソフトが発表した科学研究向け基盤「Microsoft Discovery」のコア機能として組み込まれる予定です。

なぜ重要か

研究開発に携わる現場にとって、推論モデルのブラックボックス問題は導入を阻む最大の障壁でした。CLIOのように通常モデルの外側に制御層を設けるアプローチは、透明性と再現性を確保する上で極めて現実的な解といえます。

私たちは、この仕組みの最も賢い点は「モデルに謙虚さを持たせたこと」だと考えます。科学研究では、もっともらしい誤答を出されるくらいなら、不確実だと教えてもらう方がはるかに価値があります。思考プロセスの途中に人間が介入して仮説を修正できる設計は、専門家の実務に即しています。

一方で、実行時に何度も再帰ループを回しGraphRAGで探索を重ねるため、レイテンシとAPI呼び出しコストが跳ね上がる懸念は残ります。ただ、数週間かかる実験計画を立てるような現場であれば、数分の処理時間をかけて検証可能な答えを得る価値は十分にあるはずです。

情報源 (1)

  1. [1]
    microsoft.com(新しいタブで開きます)原文microsoft.com

毎日のAIピックアップ