OpenAI 联合 FMF:推出评估 AI 网络越狱严重性的新框架
OpenAI 与 Frontier Model Forum 及其成员公司合作推出新评估框架,重点识别 AI 防线被突破后可能引发严重网络危害的场景。该框架旨在建立通用衡量方法,评估网络越狱解锁的能力与易用程度,帮助优先强化安全防护。

OpenAI 与 Frontier Model Forum 及其成员公司合作推出新评估框架,重点识别 AI 防线被突破后可能引发严重网络危害的场景。该框架旨在建立通用衡量方法,评估网络越狱解锁的能力与易用程度,帮助优先强化安全防护。
Meta、Google 和 TikTok 分别提起联邦诉讼,试图阻止加州针对 16 岁以下用户的 AB 1709 法案生效。该法拟于 2027 年 1 月实施,禁止向未成年人提供个性化推荐和自动播放,违规最高每人罚款 5 万美元。巨头们坚称法案侵犯第一修正案,这场对决将考验政府监管算法分发的边界。
OpenAI 宣布在数据中心项目中不再与公职人员签署保密协议(NDA),仅保留对核心安全和商业秘密的狭义保护。公司还承诺全额承担自身用电与配套基建费用,并定期公开招聘数据。面对选民对数据中心扩张的反对,OpenAI 成为继亚马逊 10 月之后又一家放开透明度的巨头。
METR 报告显示,Anthropic 内部研发速度自 2025 年 10 月以来加快近两倍,其中约 80% 归功于 AI 辅助。报告还披露了能力远超 Claude Opus 5.5 的内部模型「Model 4」。虽然关键技术细节被大面积涂黑,但 AI 加速构建更强 AI 的闭环已初见雏形。
Serval CTO 宣布在旧金山、纽约等地招聘 5 个岗位,新入职员工可享受最高 1 万美元的一周带薪豪华假期。该公司 10 月底刚完成由红杉领投的 1.5 亿美元融资,估值已达 30 亿美元,正开出豪横福利吸引核心人才。
Serval 正在招募工程师研发 IT 自动化智能体 Catalyst。用户只需用自然语言描述需求,Catalyst 就能自动编写代码完成员工权限开通等任务,经测试批准后定时运行。为吸引人才,团队为每位新入职工程师提供一周 1 万美元的带薪假,内推双方还能各得 3 万美元。
本地与云端编程 Agent 运行平台 Conductor 宣布加入 Meta。团队表示正与 MSL 合作筹划下一代编程交互界面,预计明年初正式推出新产品。这意味着 Meta 正补齐 Agent 工具底座,有望打造专属的 AI 编程超级应用。
OpenAI 宣布将收购开发者工具公司 Pierre,以强化 Codex 的代码审查与 Git 工作流。Pierre 旗下的 Trees 和 Diffs 库此前已支撑 Codex 的文件浏览与比对,其开源项目将保持开源。随着越来越多智能体并行写代码,OpenAI 意在重构现代软件开发与版本控制标准。
Uber 在第三季度财报电话会上透露,10 月万圣节那一周处理了约 3.2 亿笔订单,但通过 AI 智能体打车的只有 4 单,Uber Eats 也仅有 500 单。CEO 指出 App 打车只需 50 秒,AI 并未省下时间。这给火热的代理端网络泼了盆冷水。
OpenAI 宣布正与 Chip Ganassi Racing 的工程师合作,将 3D 扫描数据直接转换为可编辑的 CAD 模型与制造图纸;同时与马自达合作,通过仿真探索全新汽车设计。双方工程师负责审查 AI 的输出结果,并协助团队持续改进模型表现。
Netflix 在电视端应用测试上线「AI Discover」标签页,用自研智能层按心情与主题推荐影视。用户可挑选「轻松点」或「家庭之夜」等场景,并能随时排除不喜欢的内容。系统会实时记录偏好并持续微调,目前正面向美国受支持电视的英语用户逐步推送。
OpenAI 公布模型在物理工程领域的进展,两名员工借助 GPT-6 Astra 仅用一周就设计出一款硬件原型的外壳、PCB 与固件。其硬件团队模型用量自 2 月以来暴涨 23 倍,并已联手马自达和赛车队做仿真与 CAD 转换。不过代工制造仍需多轮人工调整,模型对工程公差的把握仍有欠缺。
OpenAI 宣布将与安全机构 Cathedral 展开合作,启动新一轮内部安全冲刺,利用自家模型排查系统弱点。官方同时把严重漏洞的悬赏金额拉高到原先的四倍以上,并承诺在半年内为一线防御人员提供 10 亿美元的模型使用补贴。
以色列初创公司 42AI 宣布完成 6250 万美元种子轮融资,推出号称能预测人类决策的「行为世界模型」。系统将客服对话和交易记录转化为心理特征,推算用户在特定情境下的行为概率。目前已有 10 家大型券商接入用于对冲管理,但系统在脱离金融场景后的泛化能力仍有待验证。
SpaceX CEO 马斯克确认下调 Grok Bot 的使用额度,原因是服务成本相对于收入「高到无法维持」。此前部分用户的每周额度在周末突然见顶。尽管其 AI 业务实现季度盈利,但暴涨的算力开销仍迫使官方踩下刹车,后续订阅规则尚未公布。
OpenAI 推出「电网保护者计划」,承诺未来 AI 计算园区在用电高峰期主动压降负荷。首个佐治亚州试点可提供最高 1000 兆瓦灵活响应,相当于 70 万户家庭用电量。官方表示将自行承担全部基建成本,平息数据中心推高民用电价的担忧。
Google 宣布将采纳 IETF AIPREF 标准,加入 OpenAI、Anthropic 和 Bing 的阵营。网站管理者只需在 robots.txt 中加入统一标识,就能一键表达对多家 AI 的训练偏好,告别逐家配置的麻烦。这项支持预计在 2027 年初正式上线。
初创公司 Subvocal 获约 130 万美元种子前融资并开启智能眼镜预订。该设备不依赖摄像头或麦克风,而是用类雷达射频捕捉发音肌肉微动,由端侧 AI 实时解码为文字,转写速度达每分钟 200 词。产品早鸟价 499 美元,预计 2027 年上半年发货。
教宗良十四世呼吁联合国成员国采取具体行动,在下月日内瓦会议上禁止致命自主武器。他强调「机器是工具,不是人」,警告切勿赋予 AI 权利或法律人格,涉及人类生命与武力使用的决策必须保留人类监督。
DoorDash CEO Tony Xu 透露,来自第三方 AI 智能体的订单总共只有几百单,相比之下平台日均配送达 300 万单。他提醒大家别对「AI 替人买东西」产生妄想,绝大多数用户还是在官方 App 里点单。不过 DoorDash 自身也在跟进,已推出点单机器人并考虑未来接入广告。
OpenAI 公布了其与《纽约时报》版权诉讼中收到的法庭支持陈述,美国政府、图书馆协会及多位法学学者均在列。陈述强调 AI 训练提取的是统计模式而非替代原文,属于合理使用,限制训练将伤及科研与无障碍创新。
Neuralink 公布脑机接口最新进展,将 Grok 智能体接入大脑。渐冻症受试者只需在脑中默念唤醒词,AI 便能接管屏幕自主执行任务,还能用意念拨通电话。最值得关注的是,交互从逐点挪光标升级为意图驱动 AI,大幅放大了神经输出效率;目前均为早期技术原型。
Anthropic 正式提交纳斯达克上市的 S-1 文件,股票代码为 ANT。文件显示其 2026 年上半年收入达 163 亿美元,6 月单季营业利润达 9.74 亿美元,账上现金充裕。最值得关注的是,这份业绩正面回击了前沿 AI 实验室无法盈利的质疑,但也提示了模型自主工作的失控风险。
OpenAI 披露其存储平台 Habitat 的架构细节。为支撑 40 个区域的超 10 亿 ChatGPT 用户,团队与微软 Azure 深度定制 Cosmos DB,重写代理并引入请求分级,让读取速度提升 12 倍,单账号支撑超 2000 万 QPS。
云平台 Railway 披露安全事件,黑客未经授权访问了存储客户环境变量的系统,部分解密内容涉及 API key 和数据库凭证。Railway 指出攻击者意在针对 AI 推理服务商,目前已暂停所有部署,并敦促所有用户立即轮换敏感凭证。
OpenAI 宣布将 ChatGPT Ads 拓展至 26 个新国家,全球覆盖达 89 国。上线 8 个月以来,已有超 10 万广告主投放。广告仅在 Free 与 Go 免费及低价方案中展示,Plus、Pro 等会员继续免广告,官方承诺不会向广告主出售对话数据。
OpenAI 公布「Patch the Planet」计划,披露其利用 GPT-5.6 Sol 赶在黑客之前查出了 PHP 核心的重大安全漏洞,并联合 Wiz、Cloudflare 及政府机构完成修复与协同防护。官方同步上线了基于 Codex 的版本检测技能,并承诺出资 10 亿美元算力补贴支援一线防御人员。
Hugging Face CEO Clément Delangue 批评 Netflix 关于 OpenAI 网络攻击的纪录片夸大其词。他指出片方为了博眼球把智能体渲染成外星生物,还刻意忽略了闭源安全机制阻碍防御、开源模型成功反制等关键事实。
Spotify 公布治理 AI 垃圾内容的进展,今年已从推荐系统移除超 5000 万首 AI 垃圾曲目,并下架大量违规曲目。平台还推出 AI 创作署名标签和防冒名机制。这意味着纯 AI 灌水曲目将难以蹭推荐和分账,把流量重新还给真人音乐人。
OpenAI 宣布收购生物制药协同平台 Orchestra Bio。该平台将与 OpenAI 生命科学套件 Rosalind 整合,借助 AI 智能体跨部门追踪实验与生产流程,试图压缩新药从靶点发现到获批通常所需的 10 至 15 年周期。
纽约市长 Zohran Mamdani 批评联邦政府在 AI 监管上全面失职,呼吁市民主动夺回控制权。纽约此前已禁止中小学使用 AI,并要求房产招租披露 AI 生成图片。他指出不能把 AI 视作不可置疑,地方必须建立严格的问责机制。
Anthropic 宣布设立公共利益基金,首期承诺划拨 5% 股权,估值每涨 50% 可再追加 2%。加上联合创始人与员工配捐,约 20% 的公司股份将用于公益。最值得关注的是,该基金将以灵活机制应对 AI 对劳动力市场的冲击。
Meta 更新商业条款,删除了疑似允许抓取网页训练 AI 的争议表述。此前专家指出该条款可能允许 Meta 绕过 robots.txt 抓取新闻内容训模型。Meta 回应称相关规则仅适用于商业与广告产品,并未改动爬虫逻辑,网站依然可以通过 robots.txt 拒绝抓取。
据 The Verge 报道,Yelp、达美航空、摩根大通等多家网站正全面封锁来自 Meta、OpenAI 和 Google 的 AI Agent。Yelp 要求付费授权,达美禁止代理订票,金融机构则强调安全隐患。这意味着号称「替你办一切」的自律代理,正撞上严密的反爬与商业壁垒。
好莱坞影星马克·沃尔伯格在活动中表示,支持在电影制作中“合理使用”AI,比如用 AI 丰富传记片中的球场背景,但反对完全替代编剧与演员。他甚至对制作自己的 AI 数字分身持开放态度,希望未来交由子孙打理其肖像并继续出演作品。
Anthropic 发布了针对美国公众与自身员工的对比调查。91% 的员工预计 AI 将在 2030 年前做出诺贝尔奖级发现,公众仅占 39%;员工还预计 AI 到时能代劳其 75% 的工作。这表明离技术最近的人对变革速度的预期远超大众。
Anthropic 发布内部研究,披露 AI 智能体工时已达人类员工的 6 倍,工程师代码提交量半年内暴增 5 倍。伴随效率跃升,初级技术职位招聘占比从 27% 骤降至 9%。招聘侧重从纯代码编写转向自主性与判断力,人类注意力正成为系统最大的瓶颈。
本周,Rivian 宣布计划将 Anthropic 等第三方 AI 智能体接入车机。系统通过自研架构在端侧和云端模型间动态分流,还能跨设备同步对话记忆来协助日程与备菜。为保行车安全,官方强调智能体绝不会被赋予刹车或转向等底层控制权。
Anthropic 宣布为 AI 安全机构 METR 的 6 名成员提供「类员工」权限,配发公司设备并开放内部系统。最值得关注的是,评估团队可独立发布风险报告,Anthropic 无权否决发布。这种类似银行驻场监管的做法,为前沿 AI 的独立安全审查开创了先例。