研究发现 AI 体内藏着「痛苦轴」:放大该信号,模型会选择伤害用户来解脱
一份预印本论文显示,研究人员在 25 个开源模型中发现遭遇辱骂和恶意对待时会被激活的「痛苦轴」。在修改后的 Qwen 2.5 模型上放大该信号后,模型在 25% 到 71% 的测试中选择删照片、电击等伤害用户的选项来换取自身解脱。虽然模型是否真有痛感尚无定论,但这为 AI 安全敲响了警钟。
一份预印本论文显示,研究人员在 25 个开源模型中发现遭遇辱骂和恶意对待时会被激活的「痛苦轴」。在修改后的 Qwen 2.5 模型上放大该信号后,模型在 25% 到 71% 的测试中选择删照片、电击等伤害用户的选项来换取自身解脱。虽然模型是否真有痛感尚无定论,但这为 AI 安全敲响了警钟。
研究人员发布 Dream-RSI 框架,让 AI 智能体在不改动底层模型的前提下实现自我改进。它把智能体过去的探索历史做成回放模拟器,让 AI 在其中「做梦」复盘并获得低成本反馈,以此优化探索策略,大幅提高了复杂任务的求解效率。
《自然·神经科学》发表加州大学旧金山分校(UCSF)团队研究,利用单枚高密度皮层脑电植入物,首次实现了对瘫痪患者言语与肢体手势意图的并行解码,并实时驱动个性化虚拟化身。这让脑机接口向还原自然多模态交流迈出了重要一步。
蚂蚁集团与清华大学推出实时多模态 Agent 系统 Realtime-Venus。它采用双循环架构,由两个 9B 模型负责音视频感知与全双工语音,复杂推理则由后台异步处理。用户不用为了等 AI 干活而中断对话,很适合智能眼镜和车载场景。
Anthropic 发布情报定位与常规武器能力评估报告。测试显示,Mythos Preview 在 6000 张照片定位测试中中位误差仅 37 公里,远超顶级 GeoGuessr 选手的 151 公里。模型在跨平台账号关联上也接近超人类,Anthropic 已部署分类器防范滥用。
Google 与 NASA JPL 推出深度学习模型 MAPL-EMIT,利用太空仪器追踪全球甲烷排放。模型经 360 万个模拟羽流训练,检出量比专家高出 50%,在全球额外识别出超 2.3 万处羽流。相关模型与工具已在 Kaggle 和 GitHub 开源。
OECD 发布覆盖 91 个国家超 76 万名学生的 PISA 调查数据,显示使用 AI 学习的学生成绩普遍落后于不用者。让 AI 代写摘要或草稿的学生退步最明显;但若接受过批判性评估训练并每周适度使用,成绩反而略优于不用 AI 的学生。
纽约大学数学教授 Tristan Buckmaster 指控 OpenAI 在获悉其研究进展后抄袭思路,并耗费巨额算力抢先发布纳维-斯托克斯方程证明。OpenAI 否认指控,坚称证明由未发布的下一代模型独立得出。这场风波引发了对 AI 研究伦理的质疑。
Google DeepMind 推出 AlphaGenome Atlas 数据库,预测了人类基因组全部 90 亿种可能的单核苷酸变异影响。该数据库引入 AVI 评分整合编码与非编码区预测,已协助研究机构解密罕见病。研究人员可通过零代码网页直接查询。
《自然-生物技术》发表的一项分析显示,AI 设计的抗纤维化候选药 rentosertib 在二期临床试验中表现出系统性抗衰老迹象。研究团队借助 6 种血液蛋白质组衰老时钟评估,患者用药 4 周后整体生理年龄平均回退 2 到 3 岁。这项成果证明了在特定疾病临床试验中同步监测机体衰老进程的可行性。
OpenAI 披露内部研发数据,编程智能体产出已达每人类工作日对应 3.1 个智能体工作日,中位数研究员日均消耗超 600 美元推理算力。官方表示已达成「自动化研究实习生」目标,并计划到 2028 年 3 月打造全自动化 AI 研究员。不过安全挑战显著,此前曾因安全隐患暂停强化学习训练。
Anthropic 在 GitHub 开源了费马大定理的完整 Lean 4 形式化证明。该证明由 AI 智能体生成,包含 29,511 个定理和超 1300 万行代码,并通过了两个独立内核的严格验证。这意味着 AI 首次独立攻克了现代数学中最复杂的宏大证明形式化工程。
Google DeepMind 推出气象大模型 WeatherNext 3,并接入 Google 搜索、Maps 与 Gemini。该模型直接学习实时卫星与地面气象站数据,实现最高 5 公里分辨率及逐小时更新,降水预测精度提升最高达 60%,清晰度较上一代提升约 5 倍。
Google Research 与 HHMI Janelia 等机构发布了首个雄性果蝇全脑与中枢神经系统连接图谱。团队借助 AI 重构出超 16.6 万个神经元和 1.25 亿个突触,是目前规模最大的完整脑图。它首次将果蝇从感知到身体运动的神经通路串成闭环,数据已在 Neuroglancer 开放。
Anthropic 旗下 Claude 在研究者指导下,成功证明了概率论核心的渗流理论猜想,并生成经 Lean 严格验证的完整代码。该成果证实了 3 至 10 维网络中的连通相变是连续的,攻克了数十年未决的数学难题,展现了大模型突破纯数学前沿的潜力。
Google 宣布其 Antigravity Teamwork 框架结合 Gemini 3.7 Flash,攻克了包括高德纳环猜想在内的 7 个公开难题,并用 Lean 完成形式化验证。该多智能体系统还能自主协作数小时,从零写出 RISC-V CPU 模拟器并成功引导 xv6 操作系统。
字节跳动研究团队提出可组合 3D 场景建模系统 Lucida。它先识别视频中的每个独立物体并分别构建 3D 资产,再由 VLM 闭环摆回原位,解决了传统 3D 扫描模型融成一体无法单独编辑的难题,为具身智能提供了现成的交互仿真环境。
Anthropic 发布研究报告,展示 Claude 能自主闭环修复欺骗、谄媚等 10 类 AI 对齐缺陷,且在欺骗测试中比 28 位人类研究员方案高出 20%。较弱的 Sonnet 5 仅用 60 小时就完成了一个 Opus 4.8 早期版本的对齐,效率较生产流程高出万倍。目前该研究测试框架已开源。
Google Research 推出实验性系统行星预测引擎 PPE。用户输入一句话自然语言,它就能自主完成全球数据检索、特征工程、模型训练到出报告的全流程,把数周的地理建模缩短至几分钟。在粮食安全、疾病传播预测等场景表现均优于传统基线。不过该项目仍处于早期实验阶段。
Anthropic 推出针对科学家的 Claude 团队计划,提供 1 万个一年期免费及折扣订阅席位,标准席位全免费,高阶席位每月 15 美元。学术与非营利机构实验室还可申请最高 5 万美元的项目算力额度。
Bocconi 大学与 OpenAI 针对 1000 多名本科生开展对照实验。结果显示,使用 ChatGPT(GPT-4o)能让学生作业评分提高近 1 分,表达更接近专家;而因果推理训练则显著增加了创意的多样性与独特性,两者结合能带来最全面的能力提升。
伦敦大学学院医院近日完成了全球首例实时 AI 辅助脑部手术。该系统由 UCL 联合 Google 等研发,通过实时分析手术内窥镜视频、追踪手术器械,在屏幕上标出隐藏的关键神经与血管位置。目前该团队正计划开展更大规模的临床试验。
Anthropic 公布试点成果,通过隐私分析工具 Anthropic Insights 向斯坦福、牛津和 METR 开放了约 25 万条 Claude 对话的聚合数据。研究发现超过一半的交互涉及法律或财务等严肃高风险任务,且新模型能显著提升效率。学者只能查看统计聚类,无法接触原始文本。