Meta、次世代AI推論チップ「MTIA」を発表：性能と帯域幅が倍増
Metaは独自開発の次世代AI推論アクセラレータ「MTIA」を発表した。TSMCの5nmプロセスを採用し、演算性能とメモリ帯域幅を前世代から倍増させ、主要モデルで3倍の性能向上を達成した。すでにデータセンターで稼働しており、市販GPUへの依存軽減と運用コスト削減を狙う。
AI計算基盤
新しいニュースを見る
カナダ、AI競争力強化に24億ドル投資：計算基盤に20億ドル集中
カナダのトルドー首相は2024年度予算案において24億カナダドル規模のAI支援パッケージを発表した。国内の計算インフラ整備に20億ドルを投じるほか、AI安全研究所の設立に5000万ドルを配分する。自国の人材やスタートアップの流出を防ぎ、主権的な計算能力を確保する狙いだ。
マイクロソフトとOpenAI、1000億ドルのAIスパコン「Stargate」を計画か
米メディアの報道によると、マイクロソフトとOpenAIは最大1000億ドル規模のAIスーパーコンピューター「Stargate」の建設計画を進めている。数百万個の専用チップを備え、早ければ2028年の稼働を目指す。ただし、本格始動はOpenAIのモデル能力が大幅に進化するかどうかに左右されるという。
MS「Copilot」がPCローカル動作へ、ただし40 TOPS以上のNPUが必要か
IntelはMicrosoftがCopilotの一部機能をPCローカルで実行できるようにする計画を明かした。クラウド処理の遅延解消やプライバシー向上が期待される一方、次世代AI PCには40 TOPS以上のNPUが求められ、既存の市販PCでは基準を満たせない。
Amazon、Anthropicに27.5億ドルを追加出資：過去最大のベンチャー投資
AmazonはAIスタートアップAnthropicに27.5億ドルを追加出資し、最大40億ドルの出資枠を完了した。AnthropicはAWSを主要クラウドとし、Amazonの自社製チップを採用する。MicrosoftとOpenAIの連合に対抗し、クラウド大手による囲い込みが加速している。
MLPerf推論ベンチマーク公開：Nvidia H200が席巻、AMDは不参加
MLCommonsが最新のMLPerf推論ベンチマーク結果を公開した。NvidiaはH200とTensorRT-LLMの組み合わせで全7部門を席巻し、推論処理がデータセンター売上の約4割を占めることを明かした。IntelもGaudi2で健闘する一方、AMDは今回も結果を提出しなかった。
MetaのAI人材獲得競争が過熱 ザッカーバーグCEO直々スカウト、面接なし内定も
報道によると、Meta が AI 人材の獲得合戦を激化させている。マーク・ザッカーバーグ CEO 自らが Google DeepMind の研究員にメールを送って引き抜きを図っているほか、一部の候補者には面接なしで直接オファーを提示。退職を申し出た社員の昇給見送り方針も撤回するなど異例の対応を見せている。
NVIDIA、新アーキテクチャ「Blackwell」発表：推論性能5倍で兆単位モデル時代へ
NVIDIAのジェンスン・フアンCEOがGTC 2024で次世代計算プラットフォーム「Blackwell」を発表した。兆単位パラメータモデル向けに設計され、前世代Hopper比でFP4推論性能が5倍、訓練性能が2.5倍に向上。ソフトウェア展開を簡素化する「NIM」も披露した。汎用計算の限界を超え、生成AI向けインフラの主導権をさらに強める構えだ。
Nvidia、GPUで量子計算をシミュレートする「Quantum Cloud」発表
NvidiaはGPU上で量子プロセッサをシミュレートできる新クラウドサービス「Nvidia Quantum Cloud」を発表した。材料科学や創薬などの量子アルゴリズム検証を支援するほか、耐量子暗号ライブラリ「cuPQC」も公開。現在アーリーアクセスを提供している。
Nvidia、人型ロボット向け基盤モデル「GR00T」と新ハード「Jetson Thor」を発表
Nvidia は年次イベント GTC にて人型ロボット向けの汎用基盤モデルプラットフォーム「Project GR00T」を発表した。同時に Blackwell 世代の専用コンピュータ「Jetson Thor」も投入。Boston Dynamics や Figure AI、Unitree など業界大手各社と提携し、身体性AIの開発を後押しする。
Sam Altmanが解任騒動を回想：AGIへの道は権力闘争の連続になる
OpenAIのSam Altman CEOがLex Fridmanのポッドキャストに出演し、昨年11月に起きた取締役会での解任劇を振り返った。人生で最も苦痛な経験であり会社が崩壊しかけたと語る一方、AGI実現への道のりは今後も激しい権力闘争が避けられず、組織の耐性を高める契機になったと述べた。
Nvidia、気候予測プラットフォーム「Earth-2」を発表：生成AIで気象予測を1000倍高速化
GTC 2024にて、Nvidiaは地球規模の気候デジタルツイン基盤「Earth-2」を発表した。生成AIモデル「CorrDiff」やOmniverseを活用し、2km解像度の高精度シミュレーションを従来比1000倍の速度と3000倍のエネルギー効率で実行できる。台湾の気象当局などがすでに台風予測に導入している。
InflectionがInflection-2.5発表、GPT-4級の性能を40%の計算量で実現
報道によると、Inflection AIは新モデル「Inflection-2.5」を発表した。GPT-4に迫る性能を持ちながら、学習用計算量は40%で済んだと主張している。Claude 3やGemini 1.5に続き、GPT-4独走の壁が急速に崩れつつある。
AI推論チップのGroq、Definitive Intelligenceを買収 クラウド基盤を強化
AI推論チップを手がけるGroqはデータ分析スタートアップのDefinitive Intelligenceを買収したと発表した。同社はGroqのLPUチップにアクセスできる「GroqCloud」の構築を支援しており、今後はクラウド基盤の拡充に加え、法人や政府機関向けにGroq Systemsの立ち上げを進める。
マイクロソフト、DirectSRを発表：DLSS・FSR・XeSSを単一コードで統合へ
マイクロソフトはPCゲーム向けの超解像技術を統合する新API「DirectSR」を発表した。Nvidia、AMD、Intelと連携し、開発者は1本の共通コードでDLSS、FSR、XeSSのすべてに対応可能になる。近くAgility SDKプレビュー版で提供される予定だ。
Microsoftが仏Mistral AIと提携、新旗艦「Mistral Large」をAzureで提供
Microsoftは仏Mistral AIとの長期提携を発表し、最新の旗艦LLM「Mistral Large」をAzure AIで先行提供開始した。Azureのスパコン基盤で開発を支援し、MaaS形式で企業に提供する。OpenAI以外の有力な選択肢をAzureエコシステムに取り込んだ形だ。
Google、Redditとの提携拡大を発表 投稿データをAI学習に活用へ
GoogleはRedditとのパートナーシップ拡大を発表した。GoogleはRedditのData APIへのアクセス権を取得し、リアルタイムの投稿データを検索表示やAIモデルのトレーニングに活用する。一方のRedditはGoogle CloudのVertex AIを導入し、自社プラットフォームの検索機能などを強化する。
毎秒247トークンの衝撃 AIチップ企業Groqの「LPU」が話題に
AIチップ企業Groqが開発した「LPU」のデモがネット上で話題を集めた。第三者機関のテストでは毎秒247トークンを記録し、既存のクラウド環境より13倍以上高速とされる。遅延を大幅に抑えて自然なリアルタイム対話を実現する一方、GPUと比べた拡張性の検証はこれからだ。
NVIDIA、ローカルで動く「Chat with RTX」を無料公開：PC内の文書や動画と対話
NVIDIAは、Windows PC上でローカルにカスタムチャットボットを動かせるデモ「Chat with RTX」を無料公開した。MistralやLlama 2といったオープンソースLLMに手元の文書やYouTube動画を読み込ませ、オフラインで素早く検索・対話できる。利用にはGeForce RTX 30 Series GPU以上と8GB以上のVRAMが必要だ。
NVIDIAのフアンCEO、「主権AI」を提唱 各国独自のデータと計算基盤の保有を促す
NVIDIAのジェンスン・フアンCEOはドバイで開催された世界政府サミットで、すべての国が独自のデータや文化を反映した「主権AI」を保有すべきだと提唱した。同氏はAIインフラの構築を促すとともに、プログラミング言語が人間の自然言語に代わりつつあると語った。