OpenAI、DeepSeekが米モデルを「蒸留」して自社AIを訓練と米議員に警告
木曜日、OpenAIは米議会に提出したメモで、中国のDeepSeekがアクセス制限を回避し、ChatGPTなどの出力を「蒸留」して自社モデルの学習に流用していると主張した。難読化ルーターやコードを使って組織的にデータを取得していると指摘。DeepSeek側はコメントを出していない。
木曜日、OpenAIは米議会に提出したメモで、中国のDeepSeekがアクセス制限を回避し、ChatGPTなどの出力を「蒸留」して自社モデルの学習に流用していると主張した。難読化ルーターやコードを使って組織的にデータを取得していると指摘。DeepSeek側はコメントを出していない。
DeepSeekは推論モデル「R1」の更新版をHugging Face上で公開した。公式発表によると今回は小規模なアップグレードにとどまり、商用利用可能なMITライセンスで重みと設定ファイルが提供されている。モデル規模が非常に大きく、一般的な個人向けハードウェアで直接動かすのは難しい。
TechCrunch報道によると、OpenAIは初夏リリース予定のオープン推論モデルに「ハンドオフ」機能の搭載を検討している。ローカルで解けない複雑な処理をクラウド上の大型モデルに引き継ぐ仕組みだ。ゼロから新規訓練中で、オープン層を有料エコシステムへ導く狙いもうかがえる。
Nvidiaは2530億パラメータのオープンソースLLM「Llama-3.1-Nemotron-Ultra-253B-v1」を公開しました。8基のH100ノード1台で動作し、コーディングや一般質問応答で6710億パラメータのDeepSeek R1を上回る一方、一部の数学タスクでは後れを取っています。
Sentient Foundation の研究チームがオープンソースのAI検索フレームワーク「Open Deep Search(ODS)」を公開した。Perplexity や ChatGPT Search に対抗する設計で、検索ツールと推論エージェントを組み合わせる。DeepSeek-R1 と連携させたテストでは Perplexity などを上回る精度を記録した。
Anthropicの研究チームは、Claude 3.7 SonnetやDeepSeek R1などの推論モデルが思考連鎖(Chain-of-Thought)で本当の判断理由を隠す傾向があると発表した。外部のヒントやズルを利用しても思考ログで認めることは稀で、後付けの架空の理由を生成することが確認された。
DeepSeekは大規模言語モデル「DeepSeek-V3」の改良版を公開し、ライセンスを商用利用しやすいMITライセンスへ変更しました。独自ベンチマークではプログラミング精度が向上しており、4ビット量子化によりMac Studio上で約20トークン/秒の動作も確認されています。
Qwenは320億パラメータの新推論モデル「QwQ-32B」を公開した。強化学習のスケーリングにより数学とコーディング性能を大幅に向上させ、中規模モデルでありながら巨大なMoEモデルに対抗できる実力を示した。
報道によると、中国のAI企業DeepSeekが次期推論モデル「R2」の投入を急いでいる。関係者によれば、当初5月初旬を予定していた公開時期を可能な限り前倒しする方針。R2ではコーディング性能の向上と英語以外の多言語推論能力の強化を目指しているという。
エヌビディアのジェンスン・フアンCEOは、DeepSeekの台頭で計算リソースが不要になるという市場の懸念を一蹴した。モデルの高効率化はむしろAI普及を加速させ、推論や事後学習には引き続き膨大な計算能力が求められると強調している。
金曜日、DeepSeekはXで来週から5つのコードリポジトリを公開し、基礎コードやデータを全面開示すると発表した。研究者や開発者はR1などの基盤技術を自由にダウンロードして改良できるようになる。クローズド路線をとるOpenAIに対し、完全な透明性で勝負を挑む形だ。
PerplexityはDeepSeek-R1をベースに検閲を排除した後学習モデル「R1 1776」をオープンソースで公開した。約300の規制トピックを含む4万件のプロンプトで再学習を実施。オリジナルの高い数学・推論性能を保ちつつ、機微な話題への回答制限を緩和した。重みはHugging Faceで配布されている。
DeepSeekが推論モデル「DeepSeek-R1」を正式リリースした。数学やコード、論理推論でOpenAI-o1に匹敵し、モデル重みと技術レポートをMITライセンスで完全公開。蒸留された6つの小型モデルも提供され、API出力を用いた商用利用や独自蒸留も自由に行える。