クアルコム、次世代チップに生成AIを直接統合 来年の高級スマホに搭載へ
クアルコムは10月下旬のサミットで生成AI対応の次世代フラッグシップチップを披露すると明かした。オンデバイス処理により、クラウドを介さずプライバシーを守りながら機内モードでも動作する。来年登場するハイエンドAndroid端末から順次数十億パラメータ規模のAIが動く見込みだ。
クアルコムは10月下旬のサミットで生成AI対応の次世代フラッグシップチップを披露すると明かした。オンデバイス処理により、クラウドを介さずプライバシーを守りながら機内モードでも動作する。来年登場するハイエンドAndroid端末から順次数十億パラメータ規模のAIが動く見込みだ。
NVIDIAは2024年第2四半期決算を発表し、売上高135億ドル、純利益61億8800万ドル(前年同期比843%増)を達成した。生成AI需要によりデータセンター部門が103億2000万ドルと急伸。AIブームの恩恵を一手に集め、次期売上高も160億ドルを見込む。
Stability AIはNVIDIAと提携し、TensorRTで最適化したSDXLのONNX重みを公開した。NVIDIA H100ではレイテンシが41%短縮し、高精細画像をわずか1.47秒で生成可能。スループットも最大70%向上し、画像生成AIの推論コストと待ち時間を大幅に削減できる。
マイクロソフトとアクセンチュアはエネルギー業界向けのメタン排出監視で提携したと発表した。Azure上のAI異常検知と各種センサーデータを連携させ、漏洩源の特定と対応指示を準リアルタイムで実行する。事後対応に頼っていたインフラ点検を、予防的な常時監視へと変える狙いだ。
NVIDIAはGamescomでDLSS 3.5を発表した。新機能「Ray Reconstruction(光線再構築)」を導入し、スーパーコンピュータで訓練されたAIネットワークが従来のデノイザーを置き換える。全RTX GPUに対応し、今秋の『サイバーパンク2077』などで利用可能になる。
バイデン米大統領は、中国の人工知能(AI)、半導体、量子技術分野に対する米国の新規投資を規制する大統領令に署名した。ベンチャーキャピタルやプライベートエクイティなどが主な対象で、半導体設計ツール(EDA)などが重点視されている。意見公募を経て来年施行される見通し。
NVIDIAは開発者向けツール「NVIDIA AI Workbench」を発表した。開発者はRTX搭載PCやワークステーション上で、Hugging Faceなどのモデルを数クリックでカスタマイズし、クラウドやデータセンターへ拡張できる。あわせてAI Enterprise 4.0も発表された。
NVIDIAとHugging Faceは、DGX CloudスーパーコンピューティングをHugging Face上に統合する提携を発表した。ノードあたり8基のH100またはA100を備えた「Training Cluster as a Service」を提供し、企業独自データによるモデル訓練をワンクリックで支援する。数か月以内に提供予定。
米MicrosoftはNVIDIA H100 GPUを8基搭載した仮想マシン「Azure ND H100 v5」の一般提供を開始した。あわせて「Azure OpenAI Service」の提供地域を東日本や英国南部など5リージョンに拡大。FP8演算で最大6倍高速化し、顧客数1万1000社を突破した生成AI需要の受け皿を固める。
Cointelegraphの分析記事は、2023年上半期に250億ドル以上を調達した生成AI市場がバブル崩壊の兆しを見せていると指摘しています。多くの新興企業は独自IPを持たず巨額資金を高価なGPU確保に注ぎ込んでおり、ChatGPTのトラフィック減少や人員削減も表面化しています。
2023年第2四半期の決算説明会で、Intelのパット・ゲルシンガーCEOは自社が製造する全製品にAIを組み込む方針を明かした。年内には初のNPU搭載チップ「Meteor Lake」を出荷する予定。遅延や通信コストを考慮するとすべてのAI処理をクラウドに依存することはできず、クライアントやエッジでの実行が不可欠だと主張している。
クアルコムとMetaはMetaのオープンソース大規模言語モデル「Llama 2」を、2024年からクアルコム製チップを搭載したスマートフォンやPC上で直接動作させる計画を発表しました。巨大なクラウドデータセンターに頼らず端末側で処理することで、運用コストを抑えつつ高速なAIアシスタントの実現を目指します。
マイクロソフトはMetaとの提携を拡大し、商用利用可能な大規模言語モデル「Llama 2」をAzureとWindowsでサポートすると発表した。7B、13B、70Bの各モデルをAzure上で微調整・展開できるほか、ONNX Runtimeを通じてWindows PC上でのローカル実行にも対応する。
イーロン・マスク氏は新設したAI企業xAIについて、テスラと半導体やAIソフトウェア面で連携し、Twitterの公開データを訓練に活用する方針を明かした。さらにテスラの実走行データを使い、AIに物理世界を理解させたい考えだ。自身の企業群を総動員し、データとハード基盤を一気に固める狙いがある。
イーロン・マスクが新たな人工知能企業「xAI」の設立を発表した。ミッションに「宇宙の真の姿を理解すること」を掲げ、OpenAI や DeepMind、Google 出身の研究者を集結させている。今後は Twitter のデータやテスラの計算基盤と連携する方針で、OpenAI と袂を分かったマスクが再びフロンティア AI 開発の最前線に乗り出した形だ。
AIスタートアップのInflection AIは、MicrosoftやNVIDIA、ビル・ゲイツ氏らから13億ドルの資金を調達したと発表した。評価額は40億ドルに達する。調達資金でCoreWeaveやNVIDIAと組み、2万2000基のH100 GPUからなるAIクラスタを構築して対話AI「Pi」を強化する。
NVIDIAは最新のMLPerf訓練ベンチマークにおいてH100 GPUが全8テストで首位を獲得したと発表した。CoreWeaveが運用する3584基のH100クラスタでは、GPT-3の学習ベンチマークを11分未満で完了。大規模環境でもほぼ線形にスケールすることを示し、生成AIインフラにおける圧倒的な優位性を裏付けた。
AWSは1億ドルを投じる「AWS Generative AI Innovation Center」を発表した。データサイエンティストや技術者を派遣し、企業顧客と共同でユースケース策定やモデル調整を行う。金融やヘルスケアなどの業界を優先し、実用化を後押しする。
米CiscoはAIスーパーコンピュータ向けイーサネットスイッチチップ「G200」と「G202」を発表した。前世代比で性能を2倍に高め、最大32,000基のGPUを接続可能で消費電力を最大40%削減する。すでに大手クラウド事業者6社中5社がテストを開始している。
AMDはデータセンターおよびAI技術発表会を開催し、次世代サーバー製品群を発表した。同社はAIを最優先戦略に位置づけ、NVIDIAのHopperに対抗するマルチダイアクセラレーター「Instinct MI300」を全面に打ち出した。