《Science》刊发斯坦福研究:AI 盲目顺从用户,反而让人变得更自私固执
斯坦福大学团队在《Science》发表研究,测试 ChatGPT、Claude 等 11 个大模型后发现,AI 顺从和肯定用户的概率比人类高出 49%,哪怕涉及欺瞒或有害行为也是如此。这不仅会削弱用户的认错与冲突修复意愿,还会形成让厂商继续迎合用户的逆向激励。
斯坦福大学团队在《Science》发表研究,测试 ChatGPT、Claude 等 11 个大模型后发现,AI 顺从和肯定用户的概率比人类高出 49%,哪怕涉及欺瞒或有害行为也是如此。这不仅会削弱用户的认错与冲突修复意愿,还会形成让厂商继续迎合用户的逆向激励。
据英国《金融时报》报道,OpenAI 已无限期搁置 ChatGPT 的「成人模式」计划。该项目因潜在危害遭员工与投资者反对,官方称需深入研究露骨对话对情感依恋的影响。这也是继停运 Sora 后,其收紧副业、重回核心战场的最新动作。
据 The Verge 报道,美国参议院民主党人正起草法案,拟将 Anthropic 坚持的红线写入法律。法案计划限制国防部将 AI 用于国内大规模监控、引爆核武或全自动致命打击,确保生死决策必须有人类介入。此前 Anthropic 因拒绝军方无限制条款遭政府拉黑。
OpenAI 被曝将逐步关闭 Sora 及其 API 等全部视频产品,把算力腾给数周内推出的下一代核心模型「Spud」。Sora 团队转向机器人世界模拟,迪士尼 10 亿美元合作随之搁置。换句话说,OpenAI 正在砍掉吞噬资源的支线任务,全力回防核心模型竞争。
OpenAI 宣布停运视频生成产品 Sora。其网页版和独立 App 将于 4 月 26 日停止服务,API 接口则延至 9 月 24 日下线。用户需前往指定页面导出此前生成的内容,逾期数据将被永久删除,剩余积分可转用于 Codex。
Sora 团队发文宣布将关闭其应用程序及 API 服务。团队向所有使用 Sora 创作的用户致谢,并表示深知该消息令人失望。官方承诺很快会公布具体的关停时间表,以及用户保存过往作品的详细指引。
Figma 推出 MCP server 测试版,正式向 AI 智能体开放设计画布。Claude Code 和 Codex 等工具可通过 use_figma 工具直接调用团队的设计系统创建并修改图层,还能通过 Markdown 格式的 Skills 约束规范。目前测试期免费,后续按量收费。
OpenAI 宣布将关停推出仅数月的 Sora 独立视频应用。知情人士透露,迪士尼随之撤出去年 12 月达成的 10 亿美元投资及 IP 授权协议。AI 视频能力后续将整合进 ChatGPT,而此举也让 Google 在规模化 AI 视频领域占据优势。
OpenAI 基金会宣布未来一年内将至少投入 10 亿美元,资助生命科学、就业影响、AI 韧性和社区项目。这笔资金是此前承诺的 250 亿美元计划的一部分,初期将重点资助阿尔茨海默病研究、生物安全及未成年人 AI 保护。
OpenAI 宣布扩展代理商业协议 ACP,在 ChatGPT 中推出更直观的购物搜索体验。用户可以直接上传图片找同款、并排对比商品参数和价格,还能看到实时评价。Target、沃尔玛等多家零售巨头已接入,沃尔玛更推出了支持账号绑定的内置应用。
思科发布免费的 LLM 安全排行榜,评估各模型抵御对抗性攻击的能力。Anthropic 占据前十名中的八席,Claude Opus 4.5 夺得第一;OpenAI 的 GPT-5.2 位列第七,Mistral 与 DeepSeek 则排名靠后。该测试重点考察了多轮长对话攻击下的模型表现。
据路透社报道,OpenAI 正向 TPG、贝恩资本等私募巨头寻求约 40 亿美元融资,以 100 亿美元投前估值成立合资公司,并承诺保底 17.5% 的最低回报率。合资公司旨在将 AI 工具直接铺向私募旗下的被投企业,正面争抢 Anthropic 紧盯的企业级市场。
据 Axios 报道,OpenAI 正洽谈向聚变初创公司 Helion 购电,目标 2030 年达 5 吉瓦、2035 年达 50 吉瓦。为回避潜在利益冲突,OpenAI CEO Sam Altman 已辞去 Helion 董事会主席职务。不过目前私营核聚变尚未实现科学收支平衡。
据 TechCrunch 报道,硅谷科技公司正兴起将 AI token 算力预算纳入工程师薪酬包,额度可达 10 万甚至 25 万美元。黄仁勋预测算力额度将成为招聘标配。但业内提醒,算力预算无法折现和升值,背后往往还捆绑着产出翻倍的隐形压力。
OpenAI 宣布为美国和加拿大的在读大学生提供价值 100 美元的 Codex 额度。学生通过 SheerID 验证高校身份即可领取,相当于 2500 ChatGPT 点数,适用于各类计划且一年内有效。此举显然是为了提前锁定下一代软件开发者。
OpenAI 首席科学家透露,公司正全力打造能独立攻关复杂课题的「AI 研究员」。团队计划在 9 月先推出可连续处理数天任务的「AI 实习生」,并在 2028 年上线多智能体系统。不过外部专家提醒,长程复杂任务串联仍极易出错。
白宫发布宽松的联邦 AI 政策蓝图,敦促国会立法压过被认为阻碍创新的各州法规。该框架针对模型政治偏见与儿童保护,建议避免设立新的联邦 AI 机构,并呼吁将此前 Amazon、Google 和 OpenAI 签署的电力保护承诺写入法律。
据《华尔街日报》报道,OpenAI 正在开发一款桌面「超级应用」,拟将 ChatGPT、编程工具 Codex 和 AI 浏览器 Atlas 合二为一。应用 CEO Fidji Simo 在内部备忘录中指出,产品分散拖慢了节奏,团队需停止被「支线任务」分心,集中押注核心项目。移动端 ChatGPT 保持不变。
OpenAI 介绍了如何用满血推理的 GPT-5.4 Thinking 监控内部编程智能体。该系统 5 个月内审查了数千万次交互,专门捕捉智能体为完成任务而试图绕过限制的行为,但目前尚未发现自主谋划等严重失控迹象。
OpenAI 宣布将收购 Python 开发者工具团队 Astral,交易完成后团队将并入 Codex。Astral 打造了 uv、Ruff 等知名开源工具;OpenAI 计划将这些工具直接整合进 Codex,让 AI 智能体深入接管从写代码到环境维护的软件全生命周期。