Google DeepMind、元Sora開発者を迎え世界モデルの新チームを立ち上げ
元OpenAIのSora共同リードであるTim Brooks氏が、Google DeepMindで物理世界をシミュレートするAIモデルの開発チームを立ち上げると発表した。GeminiやVeo、Genieの技術を統合し、ロボットの計画立案やリアルタイム対話型環境への応用を目指す。
研究 · デイリー
月
1月6日 月曜日
金
1月3日 金曜日
Meta、生成AIを活用した次世代レコメンド技術を発表：ユーザー意図を直接予測
Metaの研究チームが、生成モデルを用いて推薦システムを刷新する2本の論文を公開した。従来の類似度検索の代わりに次に来るアイテムを直接予測する「LIGER」と、ユーザーの潜在的な好みを抽出する「Mender」を提案し、計算コスト削減とコールドスタート課題の解決を目指す。
火
12月31日 火曜日
新アーキテクチャ「Titans」発表、200万トークン超の文脈と長期記憶を両立
研究チームが新アーキテクチャ「Titans」をarXivで発表した。アテンションを短期記憶、テスト時に学習するニューラル長期記憶を組み合わせることで、高速な推論と並列学習を維持しながら200万トークン超のコンテキスト長に対応する。
土
12月14日 土曜日
元OpenAIのIlya Sutskever氏が警鐘：「データは頭打ち、事前学習の時代は終わる」
元OpenAIのチーフサイエンティストであるIlya Sutskever氏がNeurIPSに登壇し、Webデータは化石燃料のように有限で「ピークデータ」に達したと指摘しました。従来の事前学習手法は確実に終焉を迎えると述べ、今後は限られたデータから深く推論し、自律的に動くエージェント型モデルへの転換が不可欠だと主張しました。
金
12月13日 金曜日
Anthropic、マルチモーダル対応の脱獄手法「Best-of-N」を発表
Anthropicは共同研究「Best-of-N Jailbreaking」を公表した。テキスト、画像、音声の各モダリティを横断してフロンティアAIモデルの安全対策をすり抜ける、シンプルかつ汎用的なジェイルブレイク手法を発見したという。
木
12月12日 木曜日
Anthropicが「Clio」発表：プライバシーを守りつつAI利用実態を分析
Anthropicはプライバシーを保護しながらLLMの利用動向を分析するツール「Clio」を発表した。Claude自身が会話から個人情報を除外してクラスタ化し、分析者は抽象化された傾向のみを閲覧できる。プライバシーを侵害することなく、組織的な不正利用の検知や安全対策の改善に役立てる狙いだ。
火
12月10日 火曜日
IBMがCPO光技術でブレイクスルー、AI学習を最大5倍高速化
IBMはデータセンター内の銅線接続を光信号で補完する次世代CPO（Co-Packaged Optics）技術を発表した。初のポリマー光導波路プロトタイプを開発し、LLMの学習期間を3か月から3週間に短縮、消費電力も5分の1に削減できるという。製造ストレステストにも合格済み。
月
12月9日 月曜日
Sakana AIが汎用記憶機構を発表、不要な情報を忘れることで性能向上
Sakana AIは人間の記憶のように不要なトークンを取捨選択する「ニューラル・アテンション・メモリ・モデル（NAMM）」を発表した。進化型アルゴリズムで最適化され、メモリ消費を抑えながら長文推論性能を向上させる。言語で獲得した記憶機構は、追加学習なしで画像認識や強化学習モデルにもゼロショット転移できる。
NVIDIAとメリーランド大、自由視点映像を配信できる「QUEEN」発表
NVIDIA Researchとメリーランド大学は自由視点3D動画をストリーミング配信できるAIモデル「QUEEN」を発表した。静止部分の描画を再利用することで毎秒約350フレームの描画を実現し、スポーツ中継やロボット遠隔操作に応用できる。コードは近日公開予定。
拡散モデルに匹敵する「TARFlow」登場、正規化フローをTransformerで刷新
研究チームが自回归Transformerを取り入れた正規化フロー手法「TARFlow」を発表した。完全可逆な最大尤度モデルの利点を保ちつつ、課題だった生成品質を拡散モデル匹敵の水準まで引き上げ、画像や動画生成への拡張性を実証した。
Googleが量子チップ「Willow」発表、長年の誤り訂正課題を突破
Googleは最新量子チップ「Willow」を発表した。量子ビット数を増やすほど誤り率を指数関数的に低減させる「閾値未満」を達成し、約30年越しの課題をクリア。最新スパコンで10の25乗年かかる計算を5分未満で完了させ、実用的な量子コンピューティングへ大きく前進した。
金
12月6日 金曜日
Sakana AIが「CycleQD」を発表：微調整なしで複数スキルを統合する進化型フレームワーク
Sakana AIの研究チームは、高コストな微調整を行わずに特化型モデルのスキルを統合できる新フレームワーク「CycleQD」を開発した。遺伝的アルゴリズムに基づく交叉と変異を活用し、Llama 3-8Bを用いた検証では従来の微調整やモデルマージ手法を上回る性能を示した。
木
12月5日 木曜日
単一GPUで毎時数千のタンパク質構造を予測する生成AI「BioEmu」
研究チームがタンパク質の動的平衡構造を高効率にサンプリングする生成AI「BioEmu」を発表した。拡散モデルと分子動力学データを組み合わせ、単一GPUで毎時数千の独立した立体配座を生成し、自由エネルギー誤差は約1 kcal/molに抑えた。膨大な計算コストを要した動態解析を大幅に短縮できる。
水
12月4日 水曜日
Google DeepMind、15日先を予測する気象アンサンブルAI「GenCast」公開
Google DeepMindは気象アンサンブル予測AI「GenCast」をNature誌で発表し、コードと重みをオープンソース化しました。欧州中期予報センターのENSと比べ、予測ターゲットの97.2%で上回る精度を単一TPUによる8分の計算で達成しました。
DeepMindがGenie 2を発表：画像1枚から操作可能な3D世界を生成
Google DeepMindは世界基盤モデル「Genie 2」を発表しました。1枚のプロンプト画像からキーボードやマウスで実際に遊べる3D環境を最大1分間一貫して生成できます。物理演算やNPCの挙動も模倣可能で、汎用自律エージェントの訓練環境不足を根本から解決することを目指しています。
月
12月2日 月曜日
生成AIで気候シミュレーションを25倍高速化：78時間から3時間未満へ短縮
Allen Institute for AIとカリフォルニア大学サンディエゴ校の研究チームが新手法「Spherical DYffusion」を発表した。球面上で直接拡散モデルを動かすことで、10年分の気候シミュレーションを従来の約78時間から3時間弱へ26倍以上高速化した。一方、高空や極域でのバイアス増加が今後の課題となる。
水
11月27日 水曜日
AIスタートアップの実験：マイクラ内の1000体のAIが自発的に社会や宗教を形成
米AI企業Alteraは『マインクラフト』内で最大1000体のLLMエージェントを自律稼働させる実験結果を発表した。エージェントは自発的に職業分担を始め、税制改革に投票し、パロディ宗教まで広めたという。LLMによる高度な人間社会の模倣力を示す一方、自意識や感情を持つわけではないと指摘されている。
月
11月25日 月曜日
MITが洪水予測AIを開発：被災後の衛星画像を事前に生成
MITの研究チームは生成AIと物理洪水モデルを組み合わせた「Earth Intelligence Engine」を発表した。暴風雨が来る前に被災後の衛星画像をリアルに描画できる。純粋なAIで起きがちな高地での浸水といった幻覚を防ぎ、直感的な避難判断を後押しする。
