「Kimi K3」はFableの蒸留モデルか？　専門家が米政府の指摘に疑問符

米ホワイトハウスの科学顧問であるMichael Kratsios氏は、中国Moonshotが公開した世界最大のオープンウェイトモデル「Kimi K3」について、米Anthropicの「Fable」を違法に蒸留して構築されたものだと批判しました。

さらに同氏は、Moonshotが輸出規制対象であるNvidiaのGrace Blackwell 300（GB300）チップやタイのサーバーを不正利用したとも主張。Scott Bessent財務長官も「中国製モデルから米国製モデルの電子透かしが見つかっている」と同調し、業界では中国系オープンモデルの全面禁止を巡る議論が過熱しています。

しかし、名だたるAI研究者たちからは「技術的に筋が通らない」と冷ややかな声が上がっています。

2週間での蒸留と学習は「物理的に不可能」

Snorkel AIの共同創業者でLaude Institute研究員のBraden Hancock氏は、タイムラインの矛盾を指摘しています。AnthropicがFableを公開したのは7月1日であり、わずか2週間で大規模なデータを蒸留し、ゼロから巨大モデルを学習させてリリースまで完了させるのは実務上不可能です。

アレン人工知能研究所（AI2）のNathan Lambert氏も、モデルがフロンティア性能に近づくにつれ、単純な蒸留（SFT）の効果は急速に薄れていると指摘します。教師モデルの応答を模倣するだけの教師あり微調整は「モデルにお行儀を教える」程度にすぎず、うっかり「私はClaudeです」と名乗ってしまう原因にはなっても、高度な推論力は獲得できません。

Fable級の知能を再現するには大規模な強化学習（RL）が不可欠であり、親モデルのエージェントに無数の回答を採点させる必要があります。

Lambert氏によれば、これを他社のAPI経由で実行すれば天文学的な費用がかかるうえ、APIの速度制限がボトルネックになり、性能向上すら見込めない公算が高いとされています。以前AnthropicがMoonshotやDeepSeekらを組織的な能力抽出で告発した経緯はあるものの、蒸留自体は業界の公然の慣習です。イーロン・マスク氏もSpaceXAIがGrokの開発時にOpenAIの出力を蒸留したと証言しています。

2.8兆パラメータの独自アーキテクチャとチップを巡る疑惑

Kimi K3を単なる「コピー品」と呼ぶことには、モデル構造そのものの観点からも大きな無理があります。

Hugging Faceで公開された仕様によると、Kimi K3は総パラメータ数2.8兆、アクティブ時1040億パラメータを誇る超巨大なMixture of Experts（MoE）モデルです。独自のKimiko delta attentionやアテンション残差機構を採用し、内製のMoon VICビジョンエンコーダーもネイティブ統合されています。

モデル容量は1.56TBに達し、一般的な環境では到底動作しません。オープンソースコミュニティのUnslothが1-bit GGUF量子化版（約594GB）を即座にリリースしたものの、依然としてエンタープライズ級GPUクラスタが必須です。

Hancock氏は、Moonshotの創業者がカーネギーメロン大学（CMU）の博士であることに触れ、米国の政治家は中国の基礎研究力を過小評価していると苦言を呈しました。

また、GB300チップの密輸疑惑について、ジョージタウン大CSETのSam Bresnick氏は闇市場の実態を認めつつ、データセンターに対する本人確認（KYC）ルールの必要性を訴えています。5月には米Supermicroの創業者がチップ密輸で起訴されていますが、バイデン政権下の2024年に提案された規制案は、トランプ政権下で停滞したままです。

なぜ重要か

私たちは、今回の米政府による蒸留批判を、フロンティア級オープンモデルの急速な台頭に対する焦りの表れだと見ています。

Kimi K3は、単体でローカル動作させるには1.56TBと重すぎますが、Hugging Face上でオープンウェイトとして解放された意義は絶大です。研究機関や企業は、プロプライエタリな最上位モデルに迫る基盤を手に入れ、独自のファインチューニングや解析を行えるようになりました。

2.8兆パラメータのMoE設計や独自のアテンション機構を「2週間の蒸留コピー」と切り捨てるのは、現在のLLM開発プロセスを無視した政治的レトリックにすぎません。SFTによる模倣と、強化学習によるフロンティア級推論の構築には天と地ほどの開きがあります。

どれほど政治的な制裁や禁止議論を振りかざしても、オープンウェイトの技術的拡散を止めることは困難です。規制や疑惑の目を向けるだけでなく、健全なエンジニアリングの競争で優位を保てるかが問われています。