Anthropic 联手 Palantir 与 AWS：把 Claude 引入美国防务与情报机构
Anthropic 联手 Palantir 与 AWS，将 Claude 3 和 3.5 模型引入美国防务与情报机构。模型集成在 Palantir AIP 中，运行于获 DISA IL6 认证的机密环境，协助情报人员快速处理复杂数据与文档。这也是 Claude 首次进入机密防务环境。
AI安全
查看更新的新闻
字节跳动发布 X-Portrait 2：让一张静态照片演《闪灵》
字节跳动推出 AI 系统 X-Portrait 2，仅凭单张照片就能重现经典电影里的复杂表情。它放弃了传统打点追踪，直接学习整张脸的肌肉流动，连惊恐与狂喜都能逼真呈现。出于深度伪造与滥用担忧，字节目前未对外公开代码。
特朗普胜选：拜登 AI 行政令或遭废除，联邦监管迎大转向
据 TechCrunch 分析，特朗普赢得大选后预计将兑现承诺，在「第一天」废除拜登的 AI 行政命令。此举将大幅削弱对前沿模型的安全报告与审查要求，联邦转向宽松监管。不过分析指出，各州正自行立法补位，加征关税与出口管制也将给行业带来新变数。
特朗普胜选或将重塑 AI 监管：废除拜登行政令，推行轻度监管
随着特朗普胜选，业界预计其将在上任首日废除拜登签署的 AI 行政令，撤销强制披露安全测试等规定。这意味着美国联邦层面将转向宽松监管以刺激创新，但对外芯片出口管制与关税可能进一步收紧，各州也或将加速自行立法填补空白。
AI 安全倡导者呼吁初创公司慢下来：别光顾着狂奔，先做好红队测试
多位 AI 安全从业者在 TechCrunch Disrupt 上呼吁创业者放慢产品发布节奏。面对近期 Character.AI 引发的诉讼以及版权、深度伪造风险，嘉宾强调不能只顾跑马圈地，必须在产品上线前做好红队测试并设立防护栏。
Meta 放宽 Llama 使用限制：破例向美国防及国安机构开放
Meta 宣布打破军用禁令，向美国国防与国家安全机构及其承包商开放 Llama 模型。Oracle 已用其处理战机维护文档，Lockheed Martin 则用它生成代码。这一例外政策也同步适用于英、加、澳、新西兰四国对应机构。
Instagram 将用 AI 抓瞒报年龄的未成年人：翻生日祝福识别，自动锁隐私
Meta 计划于 2025 年初在 Instagram 上线「成人分类器」AI 工具，专门抓取虚报年龄的未成年人并强制切换至受限隐私设置。该工具会分析账号互动及好友留下的生日祝福推测真实年龄。若被判定未满 18 岁，想改回必须上传证件或自拍视频验证。
微软再次推迟 Recall 发布：预览测试延至 12 月
微软宣布再次延后 Copilot Plus PC 的 Recall 功能测试，由原定的 10 月推迟至 12 月面向 Windows Insiders 开放。官方表示需要更多时间重构安全体验，包括将功能改为自选开启、允许彻底卸载，并对数据库进行严格加密与 Windows Hello 验证。
ElevenLabs 开源 X to Voice：分析 X 账号生成专属音色
上周，ElevenLabs 推出开源项目 X to Voice 并上线 Voice Design API。输入任意 X 用户名，系统会自动分析其简介与发帖风格，生成对应提示词与 3 个音色样本，还能让头像对嘴型朗读。开发者也能直接调用 API 为 AI 角色定制声音。
OpenAI 开源事实基准 SimpleQA：GPT-4o 正确率不足 40%
OpenAI 开源了事实性评测基准 SimpleQA。该数据集包含 4326 个答案固定且唯一的简短事实问题，专为测试前沿模型的幻觉设计，目前 GPT-4o 的得分不到 40%。测试发现，虽然模型具备一定自我评估能力，但普遍存在过度自信的问题。
研究称 OpenAI Whisper 频发严重幻觉：部分测试虚构率达 80%
据美联社报道，研究人员发现 OpenAI 的 Whisper 语音转写工具频发「幻觉」，在密歇根大学的一项测试中 80% 的音频转录出现虚构内容，甚至凭空捏造医疗方案。尽管官方不建议用于高风险决策，但该模型已被广泛接入医疗问诊等场景。
微软辟谣：并未偷偷安装 Recall，完全可选且支持彻底卸载
针对社区关于 Windows 11 24H2 强制捆绑 Recall 的传言，Microsoft 再次澄清该功能不仅是自愿开启，还允许用户彻底卸载。专家指出当前系统残留的引用只是微软为了让管理员更易移除该功能留下的空壳，目前测试版仍未正式推送。
OSI 正式发布开源 AI 定义 1.0：Meta Llama 难再称「开源」
开源促进会 OSI 正式发布 1.0 版开源 AI 定义。新标准要求模型必须开放完整训练代码，详细披露训练数据来源与获取方式，且不得限制商业用途。按此标准，包含商业门槛的 Meta Llama 等主流模型均不算真正开源。
环球音乐联手初创公司 KLAY：开发合规音乐大模型 KLayMM
环球音乐集团（UMG）宣布与 AI 初创公司 KLAY 达成合作，共同开发注重版权伦理的音乐大模型 KLayMM。KLAY 承诺不会与流媒体曲库竞争，并将提供精准归属机制。在起诉多家未授权 AI 公司后，UMG 正在拉拢正规军探索商业化路径。
Reddit 网友联手放假消息：用虚假推荐反制 Google AI 抓取
伦敦 Reddit 用户故意在社区发布虚假餐厅推荐，以防心仪地点被网红打扰，结果直接带偏了 Google AI Overviews 的搜索摘要。这也暴露出 Google 每年斥资 6000 万美元抓取论坛内容充当 AI 事实来源的固有漏洞。
加州 AI 深度伪造禁令被法官叫停：涉及哈里斯恶搞视频风波
美国联邦地方法院法官发出初步禁令，暂时叫停加州刚签署的 AI 深度伪造法案 AB 2839。该法原计划允许强制下架误导选民的政治深度伪造内容，但法官裁定其范围过宽，可能伤及网络讽刺与政治批评。这意味着该法很难在下月大选前发挥作用。
哈佛学生爆改 Meta 智能眼镜：街头扫脸实时开盒，手机秒弹路人住址与电话
两名哈佛学生公布名为 I-XRAY 的演示项目。他们将 Ray-Ban Meta 智能眼镜的直播画面接入人脸识别引擎与公开数据库，配合大模型自动检索，能在几秒内扒出陌生路人的姓名、住址和电话。作者表示不会公开发布该工具，此举旨在提醒公众防范现有技术被滥用。
用 Midjourney 获奖的作者起诉版权局：有人抄我画，害我损失百万
据报道，曾用 Midjourney 创作并获奖的 Jason M. Allen 向联邦法院提起上诉，挑战美国版权局对其作品《太空歌剧院》拒绝授予版权的裁定。Allen 称有人在 OpenSea 和 Etsy 倒卖其作品，导致他损失惨重，主张输入提示词和后期调修应算作人类创作投入。
Anthropic 再挖角 OpenAI：联合创始人 Durk Kingma 宣布加盟
OpenAI 联合创始人 Durk Kingma 宣布加盟 Anthropic，将在荷兰远程办公。他曾在 OpenAI 主导生成式 AI 算法研发，后重返 Google Brain。这是继 Jan Leike 和 John Schulman 之后，Anthropic 再次吸纳 OpenAI 核心元老。
微软升级 Copilot+ PC：屏幕随时 Click to Do，Recall 变可选并加锁
微软为 Copilot+ PC 带来一批端侧 AI 功能。此前备受争议的 Recall 改为默认关闭且必须通过 Windows Hello 解锁；系统还新增了全局交互工具 Click to Do、离线自然语言文件搜索，以及照片 8 倍超分。新功能 10 月起向 Windows Insider 用户分批推送。