OpenAI 发布青少年安全蓝图：正开发年龄预测系统定制 ChatGPT
OpenAI 发布「青少年安全蓝图」，规范未成年人使用 AI 的防护标准。官方透露正开发年龄预测系统以识别 18 岁以下用户，并已上线家长控制与主动通知功能。这意味着在外部监管落地前，平台正加速构筑未成年人保护网。
AI安全
查看更新的新闻
OpenAI 谈 AI 进展与建议：2026 开启科学发现，呼吁建立安全共识
OpenAI 发文阐述 AI 发展预测与政策建议。OpenAI 预计 AI 将在 2026 年具备做出微小科学发现的能力，并在 2028 年后带来重大突破。同时呼吁前沿实验室共享安全原则与控制评估标准，并建立类似网络安全的韧性生态，但主张对现有水平的模型减少监管负担。
Sony AI 在《自然》发布 FHIBE：用超万张合规人像测出视觉 AI 偏见
本周，Sony AI 团队在《自然》发表公平人像基准数据集 FHIBE，包含来自 81 个国家和地区、1981 人的 10318 张合规人像。数据集包含自主报告的年龄、人称代词、血统及肤色等标注，比 27 个现有数据集提供了更高的多样性与合规标准，用于帮人脸识别等视觉模型排查偏见。
Anthropic 将经济未来计划拓展至欧洲：发资助并开放 Claude 数据
Anthropic 宣布将其「经济未来计划」扩展至英国和欧洲。官方将向研究 AI 对劳动力与生产力影响的学者提供研究资助及 Claude API 额度，并联手伦敦政经举办政策研讨会。数据显示，英国用户最常将 Claude 用于学术研究，德国偏向制造业设备排障，法国则多用于文化与旅游。
Reddit 起诉 Perplexity：偷抓内容喂 AI，还设局抓了现行
Reddit 起诉 Perplexity 及三家抓取服务商，指控其绕过反爬机制窃取社区数据。Reddit 称曾发布一条仅允许 Google 爬取的贴子做测试，几小时后 Perplexity 就给出了该内容，坐实其抓取 Google 搜索结果倒手洗数据。Perplexity 则坚称自己不训练模型，拒绝向强硬手段低头。
YouTube 上线肖像检测技术：创作者可申请下架 AI 换脸与克隆声音
YouTube 正式向合作伙伴创作者推出肖像检测工具。该技术能识别平台内使用其面孔和声音的 AI 内容。创作者完成身份认证后，可查看命中视频并一键申请下架或提出版权诉求。博主终于有了反击 AI 仿冒的主动权。
Anthropic 发声明回应政策质疑：年营收达 70 亿美元，重申对美合作立场
Anthropic CEO Dario Amodei 发文表态，透露公司年化收入在 9 个月内从 10 亿暴增至 70 亿美元。针对近期政策立场的传闻，他强调支持统一的国家安全标准与政府合作，并驳斥了扼杀初创公司及模型存在政治偏见的说法。大模型领军企业正加速向政策制定者自证合规与价值。
Sora 偷造「老白」假视频被抓包：OpenAI 道歉并加固肖像防护栏
OpenAI、演员布莱恩·科兰斯顿及演员工会发表联合声明。此前 Sora 2 未经授权生成了科兰斯顿的伪造视频，OpenAI 对此表示遗憾，并承诺加固肖像与声音准入防护栏。工会借此呼吁尽快通过立法，遏制 AI 随意复制名人的现象。
OpenAI 限制 Sora：应家属要求，叫停马丁·路德·金 AI 视频生成
OpenAI 宣布在 Sora 中暂停生成已故民权领袖马丁·路德·金的肖像视频。此前有用户用该平台制作了大量不敬内容，引发家属抗议。OpenAI 表示，遗产所有者和合法代表均可申请禁止在 Sora 客串中出现其肖像，AI 名人肖像权治理迎来新规则。
思科开源 Project CodeGuard：给 AI 写代码全流程装上安全护栏
思科推出开源安全框架 Project CodeGuard，专门针对 AI 辅助编程进行全流程防护。它独立于底层模型，在代码生成前、中、后分别拦截硬编码密钥和漏洞，主打「默认安全」。思科强调它不替代人工审查，旨在降低低级漏洞流入生产环境的概率。
纽约州立法封杀 AI 操纵房租：房东用算法统一定价直接算串通
周四，纽约州州长签署法案，正式禁止房东使用算法软件协同定价，成为全美首个出台全州禁令的州。法案规定，只要多名房东采用此类软件，无论主观意图如何都将被视作价格串通。该法将在 60 天后生效，旨在打击 RealPage 等算法推高房租的行为。
Pinterest 上线防「AI 垃圾」开关：可按类目屏蔽 AI 假图
Pinterest 推出新控制功能，允许用户减少信息流里的生成式 AI 图片。用户可在美妆、艺术、时尚和家居装饰等重灾区类目中开启限制，浏览时也能随时点三点菜单反馈。面对泛滥的合成图片反噬平台口碑，官方终于把过滤权交给了用户。
ChatGPT 将放宽限制：可自选 4o 拟人性格，12 月允许成人内容
Sam Altman 表示 OpenAI 将在多数场景放宽 ChatGPT 的使用限制。几周后新版将允许用户开启更像 4o 的拟人化性格，像朋友一样聊天或多发表情符号；12 月随着年龄验证落地，还将本着「把成年用户当成年人」的原则，对认证成年人开放色情内容。
Microsoft 开源 ExCyTIn-Bench：模拟真实 SOC 测试 AI 安全调查
Microsoft 开源安全基准 ExCyTIn-Bench。它把 AI 智能体放进模拟的 Azure 安全运营中心，调用 57 张日志表测试多步威胁排查能力。结果显示 GPT-5 高推理版以 56.2% 得分领跑，降低推理深度会导致性能跌近两成。
OpenAI 成立福祉专家委员会：找心理学者把关 ChatGPT 与青少年心理
OpenAI 宣布成立「福祉与 AI 专家委员会」，吸纳心理学、精神病学和人机交互专家，指导 ChatGPT 与 Sora 的设计。重点是评估 AI 对情绪和心理健康的影响，特别是青少年群体，此前成员已参与家长控制与危机通知话术的设计。
Anthropic 支招 AI 经济冲击：提议考虑征收 Token 税与技能补贴
Anthropic 联合多位经济学家发布政策框架，探讨如何应对 AI 对就业与经济的长期冲击。文章按劳动力受影响程度将方案分为三级，涵盖加速算力基建审批、发放职业培训补贴，甚至在极端情景下征收 Token 税或由主权基金持股 AI 公司。
加州通过数字年龄法案：新设备激活需填年龄，Google 表态支持
加州州长签署 AB 1043 法案，要求操作系统和应用商店在新设备激活时必须让用户输入年龄或出生日期。法规定于 2027 年 1 月生效，违规单次最高罚款 7500 美元。法案不强制上传身份证件，获得了 Google 和 Meta 的支持，但苹果尚未表态。
加州签署儿童网络安全新法：严管 AI 伴侣，开发商不能拿「自主运行」免责
Governor Newsom 签署多项新法，强化对儿童的网络保护与 AI 监管。新规要求伴侣聊天机器人必须设立自残干预机制并标明 AI 身份，将深度伪造色情民事赔偿提至最高 25 万美元，且明确禁止开发者以「系统自主运行」免责。
OpenAI 公布政治偏见评估框架：ChatGPT 实际偏见率低于 0.01%
OpenAI 公布了评估大模型政治偏见的新框架与测试结果。该测试涵盖 100 个话题共 500 个提示词，从五个维度量化偏见表现。分析显示 ChatGPT 线上生产环境中仅不到 0.01% 的回复带有偏见，但在面对情绪化引导时仍可能出现倾斜。
Anthropic 新研究：只需 250 篇恶意文档，就能给百亿模型下毒
Anthropic 联合英国 AI 安全研究所等发布最新研究，推翻了模型越大越难下毒的常识。实验表明，投毒效果取决于恶意文档的绝对数量而非比例，仅混入 250 篇文档就能给 13B 模型成功植入后门。这意味着预训练阶段的安全防范门槛比预想中更棘手。