本文へスキップ
IFAI

AIツール

元OpenAI幹部の新会社Thinking Machines、モデル微調整ツール「Tinker」発表

公開 拡散指数 39

元OpenAIのCTOミラ・ムラティ氏らが率いるThinking Machines Labが初の製品「Tinker」を発表した。数行のコードでLlamaやQwenなどのオープンソースモデルを強化学習や教師あり学習で自動微調整し、ローカルに書き出せる。複雑なGPU管理を省くAPIで、現在アクセス申請を受付中。

元OpenAI幹部の新会社Thinking Machines、モデル微調整ツール「Tinker」発表
画像:wired.com

最先端のAIモデルを自分好みにファインチューニングしようとすると、これまではまずGPUクラスタの調達や分散学習環境の構築といった、泥臭いインフラ管理の壁にぶつかるのが常でした。

元OpenAI最高技術責任者のMira Murati氏が立ち上げたThinking Machines Labは、初となる製品「Tinker」を発表しました。最先端モデルのファインチューニング作業を自動化する開発者向けツールで、水曜日からアクセス申請の受付を開始します。

同社は7月に20億ドルのシード資金を調達し、評価額120億ドルに達したことで話題を集めました。共同創業者にはChatGPTの強化学習を主導したJohn Schulman氏や元研究担当バイスプレジデントのBarret Zoph氏など、OpenAIの元中核メンバーが名を連ねています。

わずか数行のコードで強化学習まで実行

Tinkerが現在対応しているベースモデルは、MetaのLlamaとアリババのQwen(千問)の2系統です。ユーザーは数行のコードを書いてAPIを呼び出すだけで、教師あり学習だけでなく、近年注目されている強化学習(RL)を用いた調整まで行えます。

学習が完了したカスタムモデルはダウンロード可能で、自社のプライベートサーバーなど好きな環境で自由に実行できます。

Schulman氏によると、Tinkerは大規模な分散学習に伴う複雑なインフラ制御を裏側に隠しつつ、ユーザーが学習データやアルゴリズムを完全にコントロールできる設計になっているといいます。

ベータテスターの反応も上々です。Anyscaleの最高経営責任者であるRobert Nishihara氏は、VERLやSkyRLといった既存ツールと比較しても、抽象化のしやすさと調整の自由度が極めて高水準で両立されていると評価しています。

AI安全性研究企業Redwood Researchの研究員であるEric Gan氏は、モデルの脆弱性検証のためにバックドアを仕込むコードを書かせる実験でTinkerの強化学習機能を利用したと明かしました。ゼロから強化学習基盤を組むよりはるかに簡単で、通常のAPI経由では引き出せないモデルの能力を引き出せたと語っています。

現在はAPIを無料で開放していますが、将来的には有料化する見込みです。悪用リスクに対しては、現時点では手作業で申請者を審査しており、今後は自動監視システムを導入する方針です。

なぜ重要か

米国の主要AIラボがモデルをAPIの裏側に隠してプロプライエタリ化を進めるなか、学術機関や一般的な開発者が最先端の振る舞いを実験するハードルは上がる一方でした。

Tinkerの価値は、これまで一握りの巨大テック企業が独占していた「ポストトレーニング(強化学習などの後処理)」の技術を、現場のエンジニアや研究者の手に開放する点にあります。医療や法務などの特定業務に特化した独自モデルを作りたい企業にとって、高価な専門インフラ部隊を抱えずに済むメリットは極めて大きいと言えます。

同社が最初の製品として巨大な基盤モデルの開発ではなく、LlamaやQwenといった有力オープンモデルのチューニング基盤を選んだアプローチは非常に賢明に見えます。ただし、誰でも手軽に高度な調整ができるようになる裏返しとして、悪意あるモデルの改変をどこまで防げるかという安全管理の課題は、プラットフォームの成長に伴って大きな試練になりそうです。

情報源 (1)

  1. [1]
    wired.com(新しいタブで開きます)原文wired.com

毎日のAIピックアップ