IntelがGaudi 3を発表:Nvidia H100より最大1.7倍高速とアピール
IntelはVision 2024で企業向けAIチップ「Gaudi 3」を発表した。TSMCの5nmプロセスと128GB HBM2eを搭載し、LLaMAなどのモデルでNvidia H100と比べ最大1.7倍高速、電力効率は2.3倍向上したと主張している。空冷版は第3四半期、液冷版は第4四半期に投入予定。
IntelはVision 2024で企業向けAIチップ「Gaudi 3」を発表した。TSMCの5nmプロセスと128GB HBM2eを搭載し、LLaMAなどのモデルでNvidia H100と比べ最大1.7倍高速、電力効率は2.3倍向上したと主張している。空冷版は第3四半期、液冷版は第4四半期に投入予定。
IntelはMicrosoftがCopilotの一部機能をPCローカルで実行できるようにする計画を明かした。クラウド処理の遅延解消やプライバシー向上が期待される一方、次世代AI PCには40 TOPS以上のNPUが求められ、既存の市販PCでは基準を満たせない。
MLCommonsが最新のMLPerf推論ベンチマーク結果を公開した。NvidiaはH200とTensorRT-LLMの組み合わせで全7部門を席巻し、推論処理がデータセンター売上の約4割を占めることを明かした。IntelもGaudi2で健闘する一方、AMDは今回も結果を提出しなかった。
ForbesはStable Diffusionのコア論文著者であるRobin Rombach氏ら主要研究者3名がStability AIを退職したと報じた。同社では幹部の離脱が相次ぎ、多額の計算資源コストや資金難に直面している。
Intelは投資会社DigitalBridgeなどの支援を受け、企業向け生成AI事業を独立会社「Articul8 AI」として分社化した。BCGとの共同開発が起点で、データを自社境界内にとどめたままオンプレミスやクラウドで運用できる。Intelは株式を一部保持し協業を続ける。
報道によるとStable Diffusionを手がける英Stability AIが複数社に身売りを打診している。主要投資家のCoatueが同社CEOの辞任を要求したとされる。月約800万ドルの支出に対し売上はわずかで財務が圧迫されているが、広報担当者は売却方針を否定している。
Intel の CEO パット・ゲルシンガー氏は、コストや遅延、プライバシーの制約から AI はクラウドを出てエッジへ向かうと主張した。年内投入の Meteor Lake に専用 AI ハードウェアを搭載し、80% を超える PC シェアを武器に、開発者のローカル AI 移行を促す構えだ。
チューリッヒ大学とIntelの研究チームは自律型AIドローン「Swift」がFPVレースで人間の世界チャンピオン3人を破ったと発表した。オンボードカメラと深層強化学習でリアルタイムに軌道を制御し、最速ラップで人間を0.5秒上回った。ただし照明変化など想定外の環境への適応力は依然として人間が勝る。
NVIDIAは2024年第2四半期決算を発表し、売上高135億ドル、純利益61億8800万ドル(前年同期比843%増)を達成した。生成AI需要によりデータセンター部門が103億2000万ドルと急伸。AIブームの恩恵を一手に集め、次期売上高も160億ドルを見込む。
米MicrosoftはNVIDIA H100 GPUを8基搭載した仮想マシン「Azure ND H100 v5」の一般提供を開始した。あわせて「Azure OpenAI Service」の提供地域を東日本や英国南部など5リージョンに拡大。FP8演算で最大6倍高速化し、顧客数1万1000社を突破した生成AI需要の受け皿を固める。
2023年第2四半期の決算説明会で、Intelのパット・ゲルシンガーCEOは自社が製造する全製品にAIを組み込む方針を明かした。年内には初のNPU搭載チップ「Meteor Lake」を出荷する予定。遅延や通信コストを考慮するとすべてのAI処理をクラウドに依存することはできず、クライアントやエッジでの実行が不可欠だと主張している。
画像生成AI「Stable Diffusion 2.0」が公開され、新機能「depth2img」が追加された。単眼深度推定モデル「MiDaS」を用いて元の幾何学的構造を維持できるため、3Dクリエイターは簡易なグレイボックスから構図を崩さずにAIで質感やライティングを試行できる。
機械学習エンジニアがオープンソースの「Anomalib」を用いた製造業向け外観検査手法を解説しました。正常画像のみで学習する教師・生徒モデルにより欠陥をピクセル単位で特定でき、IntelのOpenVINOを活用することでCPU推論速度を約4倍の30.2fpsまで引き上げています。