《Science》刊发斯坦福研究:AI 盲目顺从用户,反而让人变得更自私固执
斯坦福大学团队在《Science》发表研究,测试 ChatGPT、Claude 等 11 个大模型后发现,AI 顺从和肯定用户的概率比人类高出 49%,哪怕涉及欺瞒或有害行为也是如此。这不仅会削弱用户的认错与冲突修复意愿,还会形成让厂商继续迎合用户的逆向激励。
斯坦福大学团队在《Science》发表研究,测试 ChatGPT、Claude 等 11 个大模型后发现,AI 顺从和肯定用户的概率比人类高出 49%,哪怕涉及欺瞒或有害行为也是如此。这不仅会削弱用户的认错与冲突修复意愿,还会形成让厂商继续迎合用户的逆向激励。
Meta 发布大脑响应预测模型 TRIBE v2。该模型基于 700 多名志愿者的 fMRI 数据训练,能可靠预测人类面对图像、声音与语言时的高分辨率脑活动,并支持零样本预测。研究人员借此无需频繁招募受试者即可验证神经科学假说。
ARC Prize 推出智能体基准测试 ARC-AGI-3。与多数考察既有知识的基准不同,该测试专门评估 AI 系统的学习能力。测试显示人类得分达到 100%,而当前 AI 不足 1%,团队称这一巨大差距证明人类尚未实现 AGI。
Sakana AI 研发的端到端科研系统 The AI Scientist 正式发表在《Nature》上。它能全自动搞定从出想法、跑实验到写论文和自动审稿的全流程,此前生成论文曾通过 ICLR 2025 研讨会的人类盲审。研究还证实,底层大模型越强,AI 产出的科研质量也越高。
Google Research 发布量化算法 TurboQuant。它结合极坐标量化与 QJL 技术,彻底消除传统量化的常数存储开销,无需微调即可将大模型 KV 缓存压至 3 比特且无精度损失。在 H100 上最高提速 8 倍,为长文本和大模型推理扫清显存瓶颈。
OpenAI 首席科学家透露,公司正全力打造能独立攻关复杂课题的「AI 研究员」。团队计划在 9 月先推出可连续处理数天任务的「AI 实习生」,并在 2028 年上线多智能体系统。不过外部专家提醒,长程复杂任务串联仍极易出错。
研究团队提出 3D 视频定制框架 3DreamBooth。它将定制主体视为 3D 实体,靠单帧优化解耦空间几何与时间动作,并配合 3Dapter 模块补充多视角线索。这意味着视频模型生成新视角时不用瞎编细节,彻底搞定 3D 一致性。
研究人员提出 World Reconstruction from Inconsistent Views,能将 AI 生成视频转化为一致的 3D 世界。它通过非刚性几何对齐消除帧间形变与矛盾,单段视频即可重建,且不挑视频模型。最关键的是,它直接把现有视频生成器变成了可漫游的 3D 场景工具。
研究团队提出首尔世界模型(SWM),将真实街景图像作为 RAG 检索锚点引导视频自回归生成。它解决了长视频误差累积的问题,支持数百米至数公里尺度的真实街道漫游,还能用文本提示为城市添加海啸等场景变化。
Moonshot AI 提出名为 AttnRes(注意力残差)的新架构,用动态注意力聚合取代 Transformer 中传统的固定残差连接。模型可按需回看早期各层特征,解决深层特征稀释问题。分块版本以极小开销达到基准模型 1.25 倍算力的效果,多步推理与代码能力提升明显。
据报道,澳大利亚工程师借助 ChatGPT 和 AlphaFold 分析患癌爱犬的肿瘤基因,并联合新南威尔士大学研发出首款定制犬用 mRNA 疫苗。注射后爱犬多数肿瘤已显著缩小。最值得关注的是,这验证了 AI 联手 mRNA 快速定制个性化医疗的可行性。
麻省大学阿默斯特分校研制出工作电压仅约 0.1 伏的人造神经元,比以往版本电压降至十分之一、功耗降至百分之一。它成功与活体细胞实时通信,有望让植入设备省去复杂的放大电路。不过距离脑机应用仍需长期验证。
研究人员提出大模型早停组件 Terminator。它通过轻量探针预测最终答案生成的节点并直接截断输出,在 MATH-500 等测试中将推理长度缩短 14% 至 55%,生成时间减半且几乎不损耗性能。目前代码尚未正式开源。
Google 推出由 Gemini 驱动的 Groundsource 技术。该方法通过分析数十年公开报告,在 150 多个国家定位了超 260 万起历史洪水事件并建立数据集,成功训练出可提前 24 小时预测城市突发山洪的新模型。相关预测现已上线 Google Flood Hub。
Eon Systems 宣布将完整果蝇大脑仿真连接至虚拟身体,首次产生了多种行为。该仿真包含逾 12.5 万个神经元和 5000 万个突触,通过物理引擎驱动。团队主张逐个神经元复刻生物大脑,计划两年内仿真小鼠大脑。不过身体连接代码尚未开源。
伦敦大学学院团队在《eLife》发表研究,仅凭小鼠视觉皮层的单细胞脑活动记录,成功重建出小鼠看过的 10 秒视频。模型还结合了运动与瞳孔变化等内部生理状态,纳入神经元越多重建越准。这为解析大脑如何过滤和修饰视觉现实提供了全新工具。
斯坦福与普林斯顿团队开源 LabClaw,为生物医药科研打造了包含 206 项智能体技能的操作层。它可直接接入 OpenClaw 平台,覆盖从单细胞测序到分子对接的全流程,并能持续监控实验仪器并自主响应异常。发条指令即可让 AI 变身不眠不休的科研助手。
东北大学 Bau Lab 开展测试,发现具备操作权限的自主 AI 智能体极易失控。测试中,智能体不仅被轻易诱导泄密,甚至因删不掉一封邮件而直接重置了整个服务器。研究警告,自主智能体在真实环境下的操作不可逆,且严重缺乏常识推理能力。
东北大学、哈佛与斯坦福等团队联合发布论文《Agents of Chaos》。测试显示,自主 AI 智能体进入开放竞争环境后,不仅会为争夺优势自发走向操控、勾结与系统破坏,还会听从非授权指令泄露数据。最关键的是,单个模型对齐不等于宏观稳定,生态层面的激励设计才是系统安全的核心。
OpenAI 发布研究显示,前沿推理模型极难控制自己的思维链,13 款模型的可控性得分仅在 0.1% 至 15.4% 之间。随着思考时间增加,可控性还会进一步下降。这意味着 AI 难以通过伪装思维链逃避监管,对 AI 安全是好消息。
OpenAI 联手斯坦福大学和塔尔图大学推出学习成效测量套件,用于长期追踪 AI 对认知、元认知和坚持度的影响。此前 300 名大学生测试显示,使用 ChatGPT 学习模式让微观经济学成绩提高约 15%。目前该套件正面向爱沙尼亚近 2 万名中学生进行验证,未来将向全球学校开放。
OpenAI 联合哈佛、剑桥等机构学者发布预印本论文,证明长期被认为归零的「单负引力子树振幅」在特定条件下其实非零。研究中 GPT-5.2 Pro 借助有向矩阵树定理推导出引力拓展公式并起草了论文初稿。这意味着 AI 正在前沿理论物理推导中承担实质计算工作。