Google DeepMind 组建新团队:原 Sora 负责人带队造「世界模型」
前 OpenAI Sora 联合负责人 Tim Brooks 宣布在 Google DeepMind 组建新团队,研发模拟物理世界的生成模型。团队将结合 Gemini、Veo 与 Genie 的成果,探索具身智能规划与实时交互生成。DeepMind 认为这是通往 AGI 的关键路径。
前 OpenAI Sora 联合负责人 Tim Brooks 宣布在 Google DeepMind 组建新团队,研发模拟物理世界的生成模型。团队将结合 Gemini、Veo 与 Genie 的成果,探索具身智能规划与实时交互生成。DeepMind 认为这是通往 AGI 的关键路径。
Meta 研究人员近期发布两篇论文,提出 LIGER 和 Mender 两项生成式检索技术。系统将内容推荐转化为类似语言模型的序列预测,不仅让存储和推理成本保持稳定,还能用大模型提炼隐式偏好,改善传统新内容的冷启动难题。
研究人员在 arXiv 发布新架构 Titans。它把注意力机制当短期记忆,配合可在测试时学习的神经长期记忆模块,在保持快速并行训练与推理的同时,将上下文扩展至 200 万 token 以上,表现超越传统 Transformer。
OpenAI 前首席科学家 Ilya Sutskever 在 NeurIPS 发表演讲。他指出互联网高质量数据已经见顶,类似化石能源一样有限,现有的预训练模式必定走向终结。未来 AI 必须靠有限数据进行真正推理,并转向具备自主决策能力的智能体。
Anthropic 宣布最新合作研究「Best-of-N Jailbreaking」。研究团队发现了一种简单通用的越狱手段,不仅能绕过前沿 AI 模型的安全机制,还能同时跨越文本、视觉和音频模态生效。
Anthropic 公布隐私保护分析系统 Clio(现称 Anthropic Insights)。它让 Claude 自行提炼并聚类数百万条真实对话,人工分析师只能看到脱敏后的宏观主题,以此摸清真实用法并排查批量滥用。最值得关注的是,这让平台在不窥探用户隐私的前提下,也能捕捉新型安全隐患。
IBM 公布共封装光学(CPO)突破,推出首个聚合物光波导原型。该方案用光路替代服务器间铜线,能将大模型训练速度提升最多 5 倍、能耗降低 80% 以上。这项技术已通过全部制造应力测试,意在彻底解决 GPU 等待数据传输的空闲痛点。
Sakana AI 推出神经网络注意力记忆模型 NAMMs,模仿人类大脑机制让模型主动剔除冗余 token。该系统通过演化算法优化注意力矩阵,在压缩显存的同时提升了长文本推理表现,还能零样本直接迁移到视觉和强化学习模型中。
NVIDIA 联合马里兰大学公布 AI 模型 QUEEN。该模型通过复用静态背景、只重构动态内容,在 GPU 上实现了每秒约 350 帧的渲染速度。这意味着观众未来能从任意角度看比赛直播,也能辅助远程遥控机器人,代码即将开源。
研究团队提出结合自回归 Transformer 的归一化流架构 TARFlow,让这一长期被扩散模型压制的范式重获新生。它采用单一可逆网络和最大似然目标,在保持完全可逆特性的同时,样本质量追平扩散模型,并能扩展至图像与视频生成。
Google 发布最新量子芯片 Willow。该芯片在增加量子比特时成倍降低错误率,攻破了困扰学界近 30 年的「低于阈值」量子纠错难题;在标准基准测试中,Willow 用不到 5 分钟就完成了当前顶级超算需要 10^25 年才能完成的计算任务。
Sakana AI 研究人员开发出名为 CycleQD 的新框架,通过进化算法直接融合多个不同专长的小模型。该方法利用模型合并与矩阵分解进行交叉和变异,测试显示其在代码、数据库和系统操作任务上的表现超过了传统微调与模型合并,算力消耗大幅降低。
研究人员提出蛋白质模拟系统 BioEmu。它将扩散模型与分子动力学数据结合,单张 GPU 每小时即可生成数千个独立的蛋白质构象样本,自由能误差约 1 kcal/mol。这让原本依赖超算耗时良久的蛋白质动态分析,在数小时内就能低成本完成。
Google DeepMind 推出 AI 天气集合预报模型 GenCast 并开源代码和权重。在 1320 项指标测试中,它有 97.2% 胜过欧洲中期天气预报中心 ENS;单张 TPU 仅需 8 分钟即可跑完 15 天预测。
Google DeepMind 发布基础世界模型 Genie 2。输入一张静态图片,它就能推演生成支持键鼠操控的 3D 互动环境,最长维持 1 分钟一致性。这意味着研究者无需依赖预设游戏,就能为具身智能体批量打造无限的训练场景。目前该技术仍处于早期研究阶段。
Allen Institute for AI 与 UC San Diego 团队提出气候模型 Spherical DYffusion。它通过球面条件扩散过程学习物理模型数据,将 10 年气候模拟从 78 小时压缩到不到 3 小时,提速超 25 倍,不过极地和高空预测偏差仍高于传统模型。
初创公司 Altera 披露在《我的世界》中开展的 Project Sid 实验,多达 1000 个由大模型驱动的智能体在无额外人类干预下,自发形成了职业分工、为税改投票并传播宗教。最值得关注的是,它们展现出复杂的社会群体涌现行为。不过这依然是模型对人类行为模式的高级模仿,AI 并不具备真实意识。
MIT 研究团队公布名为 Earth Intelligence Engine 的新工具,将生成对抗网络与物理洪水模型结合,能提前预测并生成暴风雨过后的卫星图。这能解决纯 AI 经常在不可能积水的高地「瞎编」淹水画面的幻觉问题,帮助居民更直观地做撤离决策。