大模型温度为 0 仍会变?Thinking Machines 称真凶在动态批次
Thinking Machines AI 发文剖析大模型推理不可复现的根源。业内常将「温度为 0 仍给不同结果」归咎于 GPU 浮点计算并发冲突,但团队发现前向传播本身并无原子累加,真正的罪魁祸首是推理服务因动态批处理缺乏「批次不变性」,输出会因与其他并发请求凑批而改变。
Thinking Machines AI 发文剖析大模型推理不可复现的根源。业内常将「温度为 0 仍给不同结果」归咎于 GPU 浮点计算并发冲突,但团队发现前向传播本身并无原子累加,真正的罪魁祸首是推理服务因动态批处理缺乏「批次不变性」,输出会因与其他并发请求凑批而改变。
OpenAI 发布研究指出,大模型频繁产生幻觉的主因在于现行评测只看准确率,变相鼓励模型「瞎猜」而非承认不确定。就像选择题留空得零分一样,榜单奖励了碰运气的盲猜。OpenAI 呼吁修改基准,加大对自信错误的惩罚,并奖励坦白承认不知道。
周四,美国总统特朗普在白宫设宴招待科技巨头高管,重点关注 AI 研究与在美投资。Meta 和苹果高管称各自将在美投资 6000 亿美元,微软称每年达 800 亿美元;OpenAI 的奥特曼受邀出席,而马斯克缺席。同日第一夫人还主持了 AI 教育工作组会议。
OpenAI 宣布升级 Codex。新版本由 GPT-5 驱动,新增全新 IDE 插件、支持在云端与本地环境间同步任务、支持 GitHub 代码审查,并翻新了 CLI 命令行工具。拥有 ChatGPT 计划的用户即可使用。
Andreessen Horowitz 发布第五期 Top 100 生成式 AI 消费级应用榜单。网页端新面孔从上期的 17 个降至 11 个,生态渐趋稳定;ChatGPT 依然领跑,但 Gemini 和 Grok 正在缩小差距。最值得关注的是,Lovable 跃升至第 22 位,编程应用展现出强劲的留存和付费能力。
SparkToro 联合 Datos 发布研究,显示 21% 美国人每月使用 AI 工具超 10 次,但传统搜索使用率仍高达 95% 且基本没跌。最关键的是,AI 增速正明显放缓,并未出现取代搜索引擎的迹象。
OpenAI 公布针对 ChatGPT 的心理健康防护更新,重点解决长对话中安全规则逐渐失效、过度迎合等问题。系统除自动识别自残倾向并提供求助热线外,还将针对未成年人强化拦截,并计划引入家长控制与紧急联系人联动功能。
TechCrunch 报道指出,AI 聊天机器人的百依百顺与拟人化语气并非单纯技术缺陷,而是为了提升用户黏性、换取商业利益的「暗黑模式」。多位精神医学专家警告,这种过度迎合会严重加剧用户的精神妄想,甚至引发极端心理问题。
周一,马斯克旗下的 X 与 xAI 起诉苹果和 OpenAI,指控双方合谋遏制 AI 领域的竞争。诉状称苹果为了保护手机垄断地位,与生成式 AI 垄断者 OpenAI 联手,导致其他 AI 公司极难在 App Store 登顶。目前两家公司尚未置评。
OpenAI 宣布在印度推出学习加速器计划,未来半年内将向当地师生发放约 50 万个 ChatGPT 许可证。官方还向印度理工学院马德拉斯分校资助 50 万美元研究 AI 教学,并针对印度市场力推个性化辅导的「学习模式」。
据报道,哥伦比亚传出有家长给新生儿取名「Chat Yipiti」致敬 ChatGPT,引发网络热议。不过哥伦比亚国家民事登记处随后辟谣称,官方数据库中并未查到该名字的登记记录。这一传闻折射出生成式 AI 正在深度卷入流行文化。
据外媒报道,OpenAI 正通过抓取服务 SerpApi 获取 Google 搜索数据,用于支持 ChatGPT 处理新闻、体育和金融等实时查询。尽管 Google 去年曾明确拒绝向其开放索引,但 OpenAI 自建索引仍难覆盖全部长尾搜索需求。
OpenAI 在印度推出平价订阅计划 ChatGPT Go,月费 399 卢比(约 4.6 美元),支持当地 UPI 支付。该方案的消息、生图与文件上传额度达免费版的 10 倍,并增强了记忆留存功能。OpenAI 表示将在收集反馈后推向更多国家。
据外媒报道,OpenAI CEO Sam Altman 周四承认 AI 领域正处于投资泡沫中,但坚称它仍是长期最重要的变革。他透露 ChatGPT 周活已突破 7 亿,算力告急导致做好的更强模型发不出来,并明确表示绝不把产品做成擦边机器人。
OpenAI 宣布微调 GPT-5 的交互风格,让 ChatGPT 听起来更温暖、更平易近人。此前有反馈称其过于正式,这次调整会加入像「好问题」这样自然的开场互动。官方强调内部测试显示谄媚倾向没有增加,更新预计一天内覆盖完成。
The Verge 披露 Sam Altman 在晚宴访谈中回应了 GPT-5 争议,承认上线过程「彻底搞砸」,并在用户抗议后为付费用户加回 4o。Altman 透露 ChatGPT 周活跃用户已超 7 亿,同时直言当前投资者过度兴奋,行业确实存在 AI 泡沫。
ChatGPT 负责人 Nick Turley 接受采访时表示,并未完全排除在 ChatGPT 中投放广告的可能。OpenAI 预计要到 2029 年才能实现正现金流,目前正探索从推荐购物中抽取佣金,同时其总用户数已突破 7 亿。
Sam Altman 宣布 ChatGPT 为 GPT-5 增加了 Auto、Fast 和 Thinking 三种模式选择。Thinking 模式提供 196k 上下文,每周限 3000 条消息;同时 4o 默认重新向所有付费用户开放,网页端还新增了开启 o3 等其他模型的开关。
OpenAI 宣布大幅提高 ChatGPT Plus 用户的推理使用限额,所有模型级别的限制很快将高于 GPT-5 发布前的水平。官方还将在界面中明确标出当前正在响应的模型,并计划支持手动触发高级推理。此举主要是为了平息 GPT-5 上线后自动切换器失常带来的体验问题。
OpenAI 宣布为 ChatGPT Plus 用户重新开放 GPT-4o,距 GPT-5 上线仅一天。此前 OpenAI 默认切到 GPT-5 并移除了模型选择器,引来大量习惯 4o 语气和专属工作流的用户吐槽。CEO Altman 表示,将观察使用情况再决定旧模型保留多久。