AMD、初の小型言語モデル「AMD-135M」を発表:投機的デコードで推論を高速化
AMDは、初となる小型言語モデル「AMD-135M」シリーズを発表した。Llamaベースの通常版とコード特化版の2種を用意し、自社のInstinct MI250環境で事前学習を実施。投機的デコードによるドラフトモデルとして推論を加速させ、企業のオンプレミス導入を狙う。
AMDは、初となる小型言語モデル「AMD-135M」シリーズを発表した。Llamaベースの通常版とコード特化版の2種を用意し、自社のInstinct MI250環境で事前学習を実施。投機的デコードによるドラフトモデルとして推論を加速させ、企業のオンプレミス導入を狙う。
AMDはTensorStackと提携し、完全ローカルで動作するAIスイート「Amuse 2.0」ベータ版を発表した。コマンドライン不要の単一実行ファイル形式で、「EZモード」により手軽に画像生成を行える。最大の特徴はXDNA Super Resolutionに対応し、対応するRyzenやRadeon環境で生成画像の解像度を2倍に高められる点だ。
MLCommonsが最新のMLPerf推論ベンチマーク結果を公開した。NvidiaはH200とTensorRT-LLMの組み合わせで全7部門を席巻し、推論処理がデータセンター売上の約4割を占めることを明かした。IntelもGaudi2で健闘する一方、AMDは今回も結果を提出しなかった。
マイクロソフトはPCゲーム向けの超解像技術を統合する新API「DirectSR」を発表した。Nvidia、AMD、Intelと連携し、開発者は1本の共通コードでDLSS、FSR、XeSSのすべてに対応可能になる。近くAgility SDKプレビュー版で提供される予定だ。
セキュリティ企業Trail of Bitsが、Apple、AMD、Qualcomm製GPUに存在する脆弱性「LeftoverLocals」を公表した。ローカルGPUメモリから未消去のLLMクエリやモデル重みを最大180MB盗み取られる危険がある。AppleのM3やA17では修正されたが、旧型デバイスには影響が残る。
AMDは大規语言モデルの訓練・推論向けアクセラレータ「Instinct MI300X」とAPU「MI300A」を発表した。Llama 2の推論でNvidia H100の1.4倍の性能を謳い、マイクロソフトやMetaの採用も決定。NPU内蔵のRyzen 8040も同時に公開された。
AMDはオープンソースAIソフトウェア企業のNod.aiを買収する契約を締結したと発表した。SHARKなどのコンパイラ技術を取り込み、InstinctやRyzen AI上でのモデル展開を高速化する。オープンエコシステムを強化し、ソフトウェア基盤での競争力向上を図る。
米政府がNvidiaやAMDの先端AIチップの輸出規制を中国以外の中東一部国家にも拡大し、A100やH100の出荷にライセンス取得を義務付けたことが明らかになった。両社は短期的な業績への影響はないとしているが、先端AI半導体を巡る規制網が世界的に広がりつつある。
NVIDIAは2024年第2四半期決算を発表し、売上高135億ドル、純利益61億8800万ドル(前年同期比843%増)を達成した。生成AI需要によりデータセンター部門が103億2000万ドルと急伸。AIブームの恩恵を一手に集め、次期売上高も160億ドルを見込む。
AMDはデータセンターおよびAI技術発表会を開催し、次世代サーバー製品群を発表した。同社はAIを最優先戦略に位置づけ、NVIDIAのHopperに対抗するマルチダイアクセラレーター「Instinct MI300」を全面に打ち出した。
AMDはHugging Faceのハードウェアパートナープログラムに参画したと発表した。transformersライブラリにROCm SDKを統合し、EPYCやRyzen、Instinct GPU上でのモデル学習と推論を最適化する。Nvidia一強のAIインフラ市場において、開発者に費用対効果の高い代替選択肢を提供する狙いだ。
Bloombergの報道によると、MicrosoftはAMD製GPUのAI処理性能を引き上げるため、エンジニアリングリソースを提供して提携を進めているという。生成AI市場を牛耳るNvidiaに対抗し、巨額のサーバー費用を抑制する狙いがある。なお、Microsoftは自社AIチップ「Athena」へのAMD関与を否定した。
リーク情報によると、NVIDIAはGeForceドライバをAIで最適化し、ゲームの動作速度を底上げする計画を進めているという。平均で約10%、一部タイトルでは最大30%のフレームレート向上が期待され、早ければ今年第1四半期にも登場する可能性がある。
AMDはノートPC向け「Ryzen 7040」シリーズを発表した。Zen 4アーキテクチャを採用し、x86プロセッサとして初めて「Ryzen AI」と呼ばれる専用AIハードウェアを統合。Apple M2を上回る処理性能と効率を謳い、搭載機は3月に出荷予定だ。