本文へスキップ
IFAI

AIモデル

OpenAIの新AI「Strawberry」判明:米政府高官に披露、次世代機Orionの訓練にも活用

公開 拡散指数 59

The Informationの報道によると、OpenAIは数学やプログラミングの難問を解く推論特化型モデル「Strawberry」を開発し、米国の国家安全保障関係者にデモを披露した。早ければ今秋にもChatGPTへ組み込まれる可能性があるほか、次世代旗艦モデル「Orion」を学習させるための高品質な合成データ生成にも使われているという。

現在の大規模言語モデルは文章作成や要約には長けていますが、見たことのない難解な数学の問題や複雑なプログラミングになると、とたんに破綻することが珍しくありません。

OpenAI はこの壁を突破するため、2 つの新しいモデルを水面下で開発しています。米 The Information の報道によると、同社は推論に特化した「Strawberry」と、次世代フラッグシップである「Orion」を開発中です。さらに、Strawberry はすでに米国の国家安全保障担当者にもデモが行われたと報じられています。

思考時間を確保し、エージェントの土台を作る

Strawberry の特徴は、回答を出す前に「思考する」時間を設ける点にあります。未知の数学課題や高度なコーディング課題に対して、強化された論理的思考力で対処します。

社内デモでは、ニューヨーク・タイムズの言葉当てパズル「Connections」を自力で解いたと伝えられています。またロイターは以前、OpenAI 社内で難関数学ベンチマーク「MATH」で 90 パーセント以上を記録した AI がテストされたと報じており、これが Strawberry だと見られています。

内部文書によると、OpenAI はこの Strawberry を自律的なネット検索や深いリサーチを実行できる AI エージェントの基盤として使う計画です。

技術的アプローチとしては、スタンフォード大学の研究者が提唱した自己学習型の推論手法「STaR」に近いとされています。また、同社を去った前チーフサイエンティストのイリヤ・サツケヴァー氏が、このプロジェクトの基礎となるアイデアを提供したと言われています。

蒸留モデルの提供と Orion へのデータ供給

The Information によると、OpenAI は早ければ今年の秋にも、Strawberry のチャットボット版を ChatGPT の一部として提供する可能性があります。ただし、年内に実際にリリースされるかはまだ確定していません。

一般向けに提供される場合は、元のモデルそのものではなく、計算コストを抑えつつ同等の性能を維持する「蒸留モデル」になる見通しです。

一方の Orion は、GPT-4 の正統な後継モデルとして設計されています。Web 上の高品質なテキストデータが枯渇しつつある中、サム・アルトマン CEO は 5 月のイベントで合成データの実験を行っていると語っていました。Strawberry は Orion 向けに誤りの少ない高品質な合成データを生成する役割を担っています。

なぜ重要か

私たちは、この動きが単なる新モデルの登場にとどまらず、AI 開発の競争軸が「Web データの力任せな事前学習」から「推論時の計算と高品質な合成データ」へ完全にシフトしたことを示していると考えます。

開発者やアナリストにとっての恩恵は極めて具体的です。もし秋に蒸留版 Strawberry が利用可能になれば、複雑なロジックを組むプログラマーや多段階の調査を行うユーザーは、プロンプトの試行錯誤を減らせるはずであり、登場直後に試す価値は十分にあります。

業界全体で見れば、Google DeepMind への強烈な牽制になります。DeepMind は AlphaProof などで国際数学オリンピックの銀メダル相当に達しましたが、それを汎用モデルへ拡張できるかは不透明です。OpenAI はより汎用的な推論エンジンで一気に先行しようとしています。

ただし、Strawberry が生成したデータで Orion を訓練する手法にはリスクも潜んでいます。データ不足を補う賢いアプローチに見える反面、もし Strawberry の推論に隠れた偏りや誤りがあれば、それが Orion に濃縮されて引き継がれてしまう懸念があります。国家安全保障関係者に事前公開している点からも、高度な自律計画エージェントが安全規制の最前線に入ったことは間違いありません。

情報源 (2)

  1. [1]
    theinformation.com(新しいタブで開きます)原文theinformation.com
  2. [2]

トピックを追うOpenAIのOrionモデル開発

このトピックのニュース。新しい順です。

  1. OpenAIの次世代モデル「Orion」の性能向上ペースが鈍化か、新戦略へ転換
  2. OpenAIが次世代モデル「Orion」を12月投入か、CEOは報道を否定
  3. OpenAIの新AI「Strawberry」判明:米政府高官に披露、次世代機Orionの訓練にも活用この記事

毎日のAIピックアップ