イーロン・マスク氏、xAIの次世代モデル「Grok 2」を8月投入へ

ネット上のテキストを使ってAIを訓練することが、以前より格段に難しくなっています。ウェブ全体がAIの生成した文章で溢れかえっているからです。

イーロン・マスク氏は7月1日、xAIの次世代モデル「Grok 2」を8月にリリースすると明かしました。ネットの訓練データから既存の大規模言語モデルが生成したゴミデータを徹底的に取り除き、推論精度を大幅に向上させたモデルになるとしています。

さらにマスク氏は、年内にもより上位のモデルとなる「Grok 3」を投入する計画も明らかにしました。

SF着想のアシスタントとデータ浄化の壁

昨年11月にOpenAIのChatGPTに対抗して登場したGrokは、バージョン1.5を経てGrok 2へと進化します。マスク氏によると、今作は映画『アイアンマン』の人工知能ジャービスや『銀河ヒッチハイク・ガイド』に着想を得ており、あらゆる質問に答えるアシスタントを目指しています。

その開発で最大の焦点となったのが、訓練データのクリーニングです。マスク氏はウェブ上に氾濫するAI生成コンテンツを排除する作業は非常に骨が折れると吐露しつつ、Grok 2ではこの課題を大きく改善したと述べています。

新モデルはMATHやHumanEvalといった標準ベンチマークでもスコアを伸ばしており、リアルタイムのウェブ検索や画像生成機能も引き続き組み込まれる予定です。

10万基のH100で年末にGrok 3を投入へ

8月のGrok 2に続いて、年末には本命とされるGrok 3が控えています。

報道によると、Grok 3の学習にはNvidiaの高性能GPU「H100」が10万基規模で投入される見込みで、モデルの性能限界をさらに押し広げようとしています。

この巨大プロジェクトを支えるため、ハードウェア供給面でも強力な体制が整いつつあります。Dell Technologiesのマイケル・デルCEOは、Nvidiaと共同でAI専用ファクトリーを構築し、マスク氏とxAIのモデル開発を全面的に支援していることを認めました。

なぜ重要か

X（旧Twitter）上でAIを活用しているユーザーにとって、Grok 2が約束通りの推論能力を発揮できるかどうかは大きな見どころです。合成データの混入による不自然な回答が減れば、日常の調べ物や作業のアシスタントとして実用度が一段上がります。

業界全体から見ると、マスク氏のアプローチはデータの質と計算資源の両極端を攻めています。ネットの文章がAIによって汚染されるなか、いかに高純度な人間由来のテキストを確保するかは、全AI開発企業にとってモデル劣化を防ぐ死活問題です。

同時に、デルと組んで10万基のH100を走らせる規模感は競合他社にとっても強烈な圧力になります。ただし、これほど巨大なインフラを年内に安定稼働させて次のモデルを間に合わせられるかは、依然として極めて高いハードルと言えそうです。