IBMがCPO光技術でブレイクスルー、AI学習を最大5倍高速化

大規模なAIモデルを学習させる際、現場を悩ませている最大の壁はGPUの処理能力そのものではなく、通信待ちです。何万個ものアクセラレータを束ねたクラスタでは、銅線ケーブルのデータ転送が追いつかず、GPUが稼働時間の半分以上を何もせず待機して過ごすことも珍しくありません。

IBMは、このボトルネックを光の力で解消する次世代技術「コパッケージド・オプティクス（CPO）」の研究成果を発表しました。独自開発したポリマー光導波路（PWG）を用い、チップ間や基板間の通信を電気信号から光信号へと置き換える技術です。

銅線の限界を打ち破る超高密度な光インターコネクト

データセンター間の通信は以前から光ファイバーが主流ですが、サーバラックの内部では依然として銅線による電気配線が使われています。しかし銅線は1メートルを超えると信号の減衰や発熱が急増し、物理的な限界に達しつつありました。

IBMが開発したのは、標準的な半導体パッケージング工程で製造できる50マイクロメートルピッチのポリマー光導波路モジュールです。さらに研究段階では18マイクロメートルピッチまで微細化に成功しており、4層に積層することで最大128チャネルもの接続を極小スペースに収められます。

シリコンフォトニクスチップの端面に配置できる光ファイバーの密度は、従来の最先端CPO技術と比べて6倍に向上しました。波長分割多重と組み合わせることで、チップ間の帯域幅は電気接続に比べて最大80倍に跳ね上がります。髪の毛の3倍程度の太さの光ファイバーで毎秒数テラビットを伝送でき、ケーブル長も従来の1メートル前後から数百メートルへと大幅に延長可能です。

信頼性試験もクリアしており、マイナス40度から125度までの温度変化や高湿度、曲げ試験にも耐え、製造現場で実用可能な耐久性を証明しています。

学習期間を3か月から3週間に短縮

この光通信技術によって、GPUの待機時間が大幅に削減されます。中距離の電気配線と比較して通信にかかるエネルギー消費を5分の1以下に抑えられるとIBMは試算しています。

大規模言語モデル（LLM）の学習速度は最大で5倍高速化され、これまで3か月かかっていたモデルの学習がわずか3週間で完了する計算です。この効率化により、モデル1つの学習あたり米国の一般家庭5000世帯分の年間電力消費に相当するエネルギーを削減できるとしています。

なぜ重要か

私たちは、この技術がAIハードウェア開発が直面している「インターコネクトの壁」と「電力の壁」を根本から壊す可能性を秘めていると考えます。

AIを開発する企業にとって、高価なクラスタを導入しても通信遅延でGPUを遊ばせておくことは膨大なコストの無駄でした。学習期間が数か月から数週間に短縮されれば、研究開発の回転スピードは劇的に上がり、莫大な電気代も抑えられます。いますぐ一般ユーザーが手に入れられる製品ではありませんが、クラウドの利用料やモデル開発コストの引き下げという形で恩恵が波及するはずです。

半導体業界にとっても、これは「銅線から光へ」の完全移行を大きく引き寄せる一手です。NVIDIAをはじめとする大手ベンダーはラック内の銅線技術を限界まで研ぎ澄ましてきましたが、GPU単体の消費電力が1000Wを超える現状では物理的限界が近づいています。IBMの巧みな点は、特殊な新プロセスに頼るのではなく、標準的なパッケージング工程とポリマー導波路を組み合わせた点にあります。

ただし、試作モジュールの耐久テスト成功と、歩留まりを維持した商業量産との間には依然として大きな隔たりがあります。超高温になるプロセッサのすぐ隣に光デバイスを安定して集積し続けられるかどうかも課題です。それでも、データセンター内部の通信が光へとシフトしていく流れは、もはや後戻りできない段階に入ったと見られます。