MetaのAI責任者ルカン氏、LLMは人間レベルの知能には到達しないと明言
MetaのチーフAIサイエンティストであるヤン・ルカン氏は、大規模言語モデル(LLM)が人間レベルの知能に達することはないと述べた。推論や計画、物理世界の理解が欠けておりテキスト依存は行き止まりだと指摘、センサーや動画から学ぶ「世界モデル」への転換を提唱している。
MetaのチーフAIサイエンティストであるヤン・ルカン氏は、大規模言語モデル(LLM)が人間レベルの知能に達することはないと述べた。推論や計画、物理世界の理解が欠けておりテキスト依存は行き止まりだと指摘、センサーや動画から学ぶ「世界モデル」への転換を提唱している。
Metaは独自開発の次世代AI推論アクセラレータ「MTIA」を発表した。TSMCの5nmプロセスを採用し、演算性能とメモリ帯域幅を前世代から倍増させ、主要モデルで3倍の性能向上を達成した。すでにデータセンターで稼働しており、市販GPUへの依存軽減と運用コスト削減を狙う。
Metaは次世代の大規模言語モデル「Llama 3」を来月中に初期リリースすると明かした。年内に異なる機能を持つ複数バージョンを展開し、自社製品群に順次組み込む方針だ。前世代より回答の幅を広げる見込みで、最大モデルは約1400億パラメータになると予想されている。
ニューヨーク・タイムズ報道によると、OpenAIはデータ枯渇に対処するため、Whisperで100万時間以上のYouTube動画を文字起こししてGPT-4の学習に利用した。法的懸念を認識しつつフェアユースと判断したとされ、GoogleやMetaも同様の苦境にある。
報道によると、Meta が AI 人材の獲得合戦を激化させている。マーク・ザッカーバーグ CEO 自らが Google DeepMind の研究員にメールを送って引き抜きを図っているほか、一部の候補者には面接なしで直接オファーを提示。退職を申し出た社員の昇給見送り方針も撤回するなど異例の対応を見せている。
水曜日、Metaのマーク・ザッカーバーグCEOがLGエレクトロニクス幹部と会談し、次世代XR端末開発やオンデバイスAIでの協業を協議した。AppleのVision Proに対抗すべく、Metaは自社の大規模言語モデルを端末へ組み込む動きを加速させている。滞在中はサムスン首脳や大統領との会談も予定する。
Metaは非生成型の動画モデル「V-JEPA」を発表した。ピクセルそのものを予測するのではなく、抽象的な表現空間で欠損した動画情報を予測することで、訓練効率を1.5倍から6倍に改善した。基幹部分を固定したまま少量の追加学習で多様なタスクに対応できる。
無断で作品がAI学習に使われる問題に対し、クリエイター向けの自衛策が整理された。OpenAIやMetaなどへのオプトアウト申請に加え、GlazeやNightshadeを使って画像に不可視のノイズを加え、学習を妨害・毒入れする手法が挙げられている。過去の学習データは削除できないため、投稿前の技術的自衛が現実的な選択肢となる。
Ray-Ban Metaスマートグラス向けにVersion 2.0ソフトウェア更新が配信されました。ノイズ低減や暗所撮影の画質向上、テンプルでの一括音量操作が追加された一方、周囲の物体を認識する目玉のAI画像認識機能は見送られ、ベータ版の案内もまだ届いていません。
MetaはFacebook、Instagram、Threadsに投稿されたAI生成画像にラベルを表示すると発表した。自社ツールだけでなく、C2PA規格などを介してOpenAIやGoogle、Midjourneyの画像も検知する。AI動画や音声についてはユーザー自身による開示を義務付け、違反にはペナルティも課す方針だ。
Metaはコード生成向け大規模言語モデル「Code Llama 70B」を公開した。5000億トークンのコードデータで訓練され、10万トークンのコンテキストに対応する。Python特化版や指示チューニング版も用意され、商用利用可能なオープンライセンスで提供される。
Metaのマーク・ザッカーバーグCEOは次世代大規模言語モデル「Llama 3」の事前学習を開始したと明らかにしました。AGIの実現に向けて推論やコーディング能力を大幅に強化する方針で、2024年末までにNVIDIA H100を34万基以上確保し、強力な計算基盤を構築する計画です。
Instagramは水曜日、米国のユーザー向けに生成AIを活用したストーリーズの背景編集ツールを導入した。「恐竜に追いかけられている」などのプリセットや自由なプロンプト入力で写真の背景を変更できる。投稿には「試す」ステッカーが付き、閲覧者も手軽に同じ機能を楽しめる仕組みだ。
Metaは第2世代Ray-Banスマートグラス向けにマルチモーダルAI機能の早期アクセス提供を開始した。「Hey, Meta, look」と声をかけると、内蔵カメラで撮影した写真をもとにAIが目の前のものを認識して回答する。日常的なメガネで視覚AIを使える点が注目されるが、現段階では数秒の待ち時間や誤認識も残る。
Metaは音声生成の基盤研究モデル「Audiobox」の体験デモを公開した。ゼロショット音声合成(TTS)やテキストからの効果音生成、音声のインフィリング(補完・修復)機能を備えており、ブラウザ上で直接各機能を試すことができる。
Metaはオープンソースの生成AIを安全に構築するためのプロジェクト「Purple Llama」を発表した。LLM向けサイバーセキュリティ評価ツールと、有害な入出力を検知・遮断する基盤モデル「Llama Guard」を提供し、研究および商用利用の両方でオープンに利用できる。
Metaはテキストから画像を生成する独立したWebツール「Imagine with Meta」を公開した。同社の画像生成モデル「Emu」を採用し、米国のユーザーは1プロンプトにつき4枚の画像を無料で生成できる。さらに同社は、トリミングや色調整にも耐性を持つ不可視の電子透かしを導入する方針も明かした。
Metaは各サービスにおけるAI機能の強化を発表した。Ray-Ban Metaスマートグラス向けにカメラで捉えた物を理解するマルチモーダルAIとBing連携の先行テストを開始したほか、独立した画像生成Webツール「imagine.meta.com」を米国内で公開した。
Metaは感情や抑揚を保ちながら翻訳する新システム「Seamless」を公開した。約2秒の遅延で発話中に訳す「SeamlessStreaming」と、声のトーンや話速を維持する「SeamlessExpressive」で構成される。モデル群はSeamlessM4T v2を基盤としており、オープンソースとして提供される。
月曜日、米連邦地裁判事はコメディアンのサラ・シルバーマンらがMetaを訴えた著作権訴訟の大半を却下した。「LLaMAモデル自体が侵害的二次的著作物である」などの主張は根拠不足と判断された。ただし、AI訓練に著作権保護下の書籍を無断利用したこと自体が侵害にあたるかという根本的な論点は依然として審理が続く。