OpenAIらが新ネットワーク規格「MRC」公開：障害を即座に回避しAI学習を止めない
OpenAIはNVIDIA、AMD、マイクロソフトらと共同開発したGPU向け通信規格「MRC」をOCPで公開した。パケットを数百の経路に分散し、マイクロ秒単位で障害を迂回する。すでにGB200超大型クラスタに導入され、最新フロンティアモデルの学習を支えている。
GB200
OpenAIとOracleが提携、Stargateに4.5GWのAIデータセンターを追加へ
OpenAIはOracleと提携し、米国で4.5GW規模のStargateデータセンターを追加開発すると発表した。テキサス州の施設と合わせ開発規模は5GWを超え、200万個以上のチップを収容予定。現地ではすでにNvidia GB200ラックが導入され、初期学習が始まっている。
NVIDIAの黄CEO、AI計算需要はChatGPT登場時の「100倍」と指摘
米NVIDIAのジェンスン・ファンCEOは、段階的に思考する推論モデルの普及により、AIが必要とする計算量はChatGPT公開時の100倍に達したと語った。DeepSeek台頭による需要減少の懸念を一蹴し、推論モデルこそが更なるGPU需要を生むと強調している。
NVIDIA、Blackwellチップの全面量産を表明 1万3000個を出荷
NVIDIAはQ3決算発表で、次世代AIチップ「Blackwell」が本格量産に入り順調に進んでいると説明しました。冷却懸念の報道には直接触れず、今四半期だけで顧客へ1万3000個のサンプルを出荷済みです。フアンCEOは各システムの立ち上がりも極めて順調だと強調しました。
NVIDIA、売上高が2倍超の300億ドル突破も時間外で株価7%下落
NVIDIAは第2四半期決算を発表し、売上高は前年同期比122%増の300.4億ドル、データセンター部門は154%増と急成長を維持しました。しかし、Blackwellの設計変更に伴う粗利益率の低下や過熱した期待感が重なり、時間外取引で株価は7%以上急落しました。
NVIDIA、新アーキテクチャ「Blackwell」発表：推論性能5倍で兆単位モデル時代へ
NVIDIAのジェンスン・フアンCEOがGTC 2024で次世代計算プラットフォーム「Blackwell」を発表した。兆単位パラメータモデル向けに設計され、前世代Hopper比でFP4推論性能が5倍、訓練性能が2.5倍に向上。ソフトウェア展開を簡素化する「NIM」も披露した。汎用計算の限界を超え、生成AI向けインフラの主導権をさらに強める構えだ。