Character.ai 解密预训练技术:6-bit 梯度压缩让通信开销骤降
Character.ai 首次公开早期由 Noam Shazeer 带领研发的 Transformer 预训练优化技巧。其中最引人关注的是 6-bit 梯度压缩算法 Squinch,在集群网络带宽仅为顶尖系统四分之一的限制下,保持了与 bfloat16 相当的训练精度。团队同时还公开了注意力正则化与蒸馏优化等工程细节。
GPT、Claude、Gemini、DeepSeek、通义千问等大模型的新版本发布、跑分对比、价格和 API 变化,每天更新。
Character.ai 首次公开早期由 Noam Shazeer 带领研发的 Transformer 预训练优化技巧。其中最引人关注的是 6-bit 梯度压缩算法 Squinch,在集群网络带宽仅为顶尖系统四分之一的限制下,保持了与 bfloat16 相当的训练精度。团队同时还公开了注意力正则化与蒸馏优化等工程细节。
OpenAI 公布针对 ChatGPT Atlas 浏览器智能体的安全更新。官方利用强化学习训练的自动化红队系统模拟复杂多步攻击,在外部利用出现前主动发现新型提示注入漏洞,并将对抗训练成果直接推给全量用户,防止智能体被恶意网页或邮件劫持。
Google 发布基于 Gemma 3 的 T5Gemma 2 模型家族,成为首个支持多模态与 128K 长上下文的编码器-解码器架构。新模型通过合并注意力和绑定词嵌入精简参数,提供 3.7 亿至 70 亿等紧凑尺寸,专为端侧部署打造。目前仅提供预训练权重,需开发者自行微调。
Google 发布 FunctionGemma,基于 Gemma 3 270M 专门针对函数调用微调。它体积极小,能离线跑在手机或 Jetson Nano 上,微调后任务准确率从 58% 升至 85%,可充当本地独立智能体或复杂任务的分流调度器。
OpenAI 推出面向软件工程的智能体编码模型 GPT-5.2-Codex。新模型优化了长上下文压缩,更擅长处理大型代码重构与迁移,并在防御性网络安全测试中表现亮眼。目前已面向 ChatGPT 付费用户开放 Codex 访问,API 也将在未来几周上线。
Google 正式推出 Gemini 3 Flash。它在保持 Pro 级推理与多模态能力的同时,速度比 Gemini 2.5 Pro 提升 3 倍,SWE-bench 编程跑分更达到 78%。最关键的是,它已成为 Gemini 应用和搜索 AI 模式的默认免费模型,API 每百万输入 token 仅需 0.5 美元。
Meta 推出声音分割多模态模型 SAM Audio。就像此前在图像领域分割物体一样,它支持用户通过文本描述、直接在视频中点选画面目标(如吉他)或标记时间段,从复杂混音中精准分离出特定声音。目前模型已上线 Segment Anything Playground 供公开体验。
Google 推出升级版 Gemini 2.5 Flash Native Audio,大幅提升了语音智能体的工具调用准确率和长对话连贯性。同时 Google 翻译 App 上线耳机实时同传测试版,支持 70 多种语言双向交流,还能保留说话者的语调与节奏。
OpenAI 推出专为专业工作设计的 GPT-5.2 系列模型。其中 Thinking 版本在跨 44 种职业的知识工作基准测试中得分逼近人类专家水平,幻觉发生率较前代降低 30%,表格与幻灯片生成能力明显增强。付费版 ChatGPT 和 API 开发者即日起可用。
Runway 发布通用世界模型系列 GWM-1。它基于 Gen-4.5 自回归实时逐帧生成,支持镜头姿态与机器人动作交互控制,划分为环境探索、对话化身和机器人控制三类。最值得关注的是它能充当机器人策略的视觉模拟器,大幅降低真机试错成本。
消息称 OpenAI 因面临 Google 和 Anthropic 的竞争压力拉响内部「红色警报」,拟将 GPT-5.2 提前至 12 月 9 日发布以反击 Gemini 3。Altman 称新模型内部评测已领先。不过受算力及开发等变数影响,上线时间仍可能微调。
Google 发布多模态模型 Gemini 3 Pro,主打物理空间与视频推理。模型支持输出像素级坐标以辅助机器人和屏幕操作,视频解析采样提升至 10 FPS,还能将复杂文档直接反向解析为 LaTeX 或代码。
Google 宣布在 Gemini 应用中向 Google AI Ultra 订阅用户推出 Gemini 3 Deep Think 模式。该模式采用并行推理同时探索多个假设,在不用工具的情况下取得 Humanity's Last Exam 41.0%,结合代码执行在 ARC-AGI-2 测出 45.1%。
据 The Information 报道,OpenAI 正加紧研发代号为「Garlic」的新模型,有望明年初提前上线。该模型训练数据集比 GPT-4.5 更小、成本更低,在编程与推理测试中直追 Google Gemini 3。面对对手步步紧逼,CEO Sam Altman 本周已在内部拉响「红色警报」。
DeepSeek 推出专为智能体打造的推理模型 DeepSeek-V3.2 及 Speciale 版本。V3.2 作为 V3.2-Exp 的正式继承者,已上线 App、网页端和 API;主打极限推理能力的 Speciale 则暂时仅限 API 访问。
Anthropic 上线新旗舰模型 Claude Opus 4.5,主打编程、智能体和计算机操作能力,在内部工程测试中得分超越所有人选。API 价格降至每百万 token 5 美元和 25 美元,并支持努力度调节参数,显著降低推理 token 消耗。
OpenAI 推出编程智能体模型 GPT-5.1-Codex-Max。它通过会话压缩技术原生支持跨窗口运作,可处理数百万 token 的复杂重构,甚至能连续自主迭代超过 24 小时,思考 token 还减少了 30%。目前已作为 Codex 默认模型上线。
Google 发布新一代旗舰模型 Gemini 3。首发的 Gemini 3 Pro 预览版在 LMArena 斩获 1501 Elo 新纪录,在多模态推理与编码上大幅跃升,并同步推出智能体开发平台 Google Antigravity。增强推理模式 Deep Think 也已进入测试。
Anthropic 宣布与微软扩大合作,Claude 4.5 系列等模型在 Microsoft Foundry 开启公测。企业可直接用已有 Azure 协议与额度部署;同时 Excel 的 Agent Mode 也接入 Claude 预览版,支持直接生成公式与分析表格。
Elon Musk 在 Baron Capital 年度投资大会上确认,xAI 正在训练下一代大模型 Grok 5,计划 2026 年初发布。该模型参数量达 6 万亿,是 Grok 3 和 Grok 4 的两倍,支持原生多模态实时交互,Musk 称其将大幅领先现有竞品。