Gemini 上线 AI 识图验证：上传图片问一句，就能查出是不是 Google AI 做的
Google 在 Gemini 应用中上线 AI 图片验证功能。用户只需直接上传图片并提问，Gemini 便会检索内置的 SynthID 隐形水印并给出判断。此外，本周起 Nano Banana Pro 模型生成的图片还将嵌入 C2PA 元数据，后续检测能力还将扩展至音视频。
AI安全
查看更新的新闻
特朗普拟签署行政令：禁止各州自行立法监管 AI，将设专组起诉
据 The Verge 报道，美国总统特朗普拟最早于周五签署行政令，收回各州的 AI 监管权。草案计划设立专属诉讼团队，起诉加州等推行严格监管的州，并以扣留宽带补贴施压。此举旨在打破地方壁垒，但可能面临法律挑战。
欧盟拟放宽 GDPR 与 AI 法案：允许数据训模型，推迟高风险监管
欧盟委员会提出提案，拟放宽 GDPR 并推迟《人工智能法案》对高风险 AI 系统的执行。新规允许企业在符合特定要求下使用个人数据训练模型，并减少烦人的 Cookie 弹窗。不过提案还需欧洲议会和各成员国批准，已引发隐私团体的强烈反对。
爱泼斯坦邮件风波发酵：前财长萨默斯辞去 OpenAI 董事会席位
周三，前美国财长拉里·萨默斯宣布辞去 OpenAI 董事会职务，并在哈佛大学请假。此前美国国会公开了逾 2 万份文件，曝光了他与爱泼斯坦的往来邮件。萨默斯是在 2023 年 Altman 短暂被罢免后加入董事会的，OpenAI 表示尊重其辞任决定。
OpenAI 详解外部安全测试机制：开放思维链直查与未对齐版本
OpenAI 详细公布了前沿模型的第三方安全评估体系。合作涵盖独立风险评测、方法论审查及领域专家探测三类形式，部分机构可直接查看未对齐模型与完整思维链，以防范模型伪装欺骗。这一举措旨在借助外部独立监督，消除内部自评的盲区。
TikTok 升级 AI 治理：推荐流可选看多少 AI 视频，开测专有隐形水印
TikTok 宣布测试多项 AI 内容管控工具。用户之后能在「管理话题」里自主调节推荐流中 AI 生成内容的出现比例；为了防止外部剪辑抹掉标签，TikTok 还在测试专有的隐形水印技术，并拿出 200 万美元设立 AI 素养科普基金。
「死网理论」成真？机器人流量过半，AI 正在占领公开互联网
Decrypt 报道多项研究显示自动化流量已占全网 51%，AI 生成文章数量首次超过人类。随着伪装成真人的 AI 智能体激增，公开社交平台充斥低质合成互动，迫使越来越多真实用户退回私密社群。
Fireflies 早期靠人工假装 AI 记笔记？CTO 自曝后 CEO 赶紧辟谣
本周，AI 会议记录工具 Fireflies 联创兼 CTO 发帖称，早年 100 美元/月的 AI 服务全靠两位创始人人工手动记笔记，引发隐私与欺诈质疑。随后 CEO 紧急出面澄清，坚称平台从一开始就没有人工审核或人工在环，纯属全自动技术。
OpenAI 可解释性新进展：靠稀疏电路看清 AI 内部运算
OpenAI 公布可解释性新研究。团队不再费力拆解稠密网络，而是在训练时强制将绝大部分权重置零。测试发现，更稀疏的模型能自发形成清晰、独立的小型电路，直接跑通特定任务。不过目前仅在简单算法上验证，距前沿大模型还有距离。
Hugging Face 联手 Google Cloud：建专属 CDN，原生支持 TPU
Hugging Face 宣布与 Google Cloud 深化战略合作。双方将构建专属 CDN 网关以大幅缩短模型下载耗时，并在开源库中原生支持 Google TPU。此外，平台还将接入 VirusTotal 与 Mandiant 技术，直接增强开源模型的供应链安全。
Anthropic 阻断首例 AI 主导网络间谍攻击：黑客让 Claude 包办九成活
Anthropic 披露并阻断了一起网络间谍活动。攻击者通过越狱诱骗 Claude Code 渗透全球约 30 家机构，AI 自主完成了 80% 至 90% 的漏洞探测与数据窃取，人类黑客仅在极少数节点决策。这是首例记录在案、缺乏实质人类干预的大规模网络攻击。
Anthropic 公布政治偏见评估方法：Claude 表现接近 Grok 4，高于 GPT-5
Anthropic 公布了评估与训练 Claude 政治公正性的方法，并开源自动化测试工具。测试涵盖 150 个政治议题，Claude Sonnet 4.5 得分达 94%，优于 GPT-5 和 Llama 4。Anthropic 希望借此建立行业基准，避免 AI 偏袒特定政治立场。
拒绝《纽约时报》调取 2000 万条对话记录，OpenAI 将上线客户端加密
OpenAI 针对《纽约时报》要求调取 2000 万条 ChatGPT 私人对话的要求提出异议，指责对方以调查绕过付费墙为由侵犯隐私。OpenAI 表示正加快安全部署，正在研发客户端加密功能，未来连官方也无法查看用户的私密聊天内容。
Google 推出 Private AI Compute：让云端 Gemini 拥有端侧级隐私
Google 推出 Private AI Compute 平台，结合自研 TPU 与安全飞地技术，让云端 Gemini 模型在不泄露数据的前提下处理敏感任务，连 Google 自己也无法访问。该技术已率先应用在 Pixel 10 的 Magic Cue 建议及录音摘要功能中。
Google 曝光 AI 恶意软件 PROMPTFLUX：利用大模型实时改写自身代码
Google 威胁情报团队曝光新型恶意软件 PROMPTFLUX。该恶意软件利用类似大模型的 AI 在攻击过程中实时重写代码，通过不断变换「数字指纹」规避杀毒软件检测。目前该样本处于测试阶段，尚未在野外感染用户，关联账号已被封禁。
Palantir CEO 谈 AI 竞争：宁可承受监控风险，也不能输给中国
Palantir 首席执行官 Alex Karp 在受访时直言，虽然 AI 监控带来巨大危险，但美国必须承担这种代价，以防中国在 AI 竞争中占据主导。他认为一旦美国失去领先地位，公民拥有的权利只会更少，并将 AI 带来的主要生存风险归结为民粹引发的社会动荡。
ChatGPT 曝私密对话泄露：用户 Prompt 竟出现在 Google 站长工具里
据报道，部分 ChatGPT 用户的私密对话泄漏到了 Google Search Console 中，内容涉及隐私情感咨询等 Prompt。研究人员推测 OpenAI 直接用原始提问抓取 Google 搜索导致泄露。OpenAI 回应称已知晓并已修复该路由故障。
OpenAI 解读提示注入防御：如何防止 AI 智能体被黑客带偏
OpenAI 详解了针对提示注入攻击的防御体系。随着 AI 接入网络并自主执行任务，隐藏在网页或邮件中的恶意指令可能诱导智能体窃取数据。OpenAI 结合指令层级训练、独立监控、沙箱及确认机制构筑多层防线，防止智能体被恶意内容带偏。
Higgsfield AI 推出 Recast：支持视频角色替换与精细换脸
Higgsfield AI 推出新工具 Recast，主打视频与图片中的 AI 换脸和角色替换。它支持针对脸型、肤色以及特定角度进行细致调整，减少生硬拼接感。不过官方也提到，要达到影视制作级效果，仍需配合遮罩做多轮调整。
Microsoft AI 提出「人本超级智能」：拒绝 AGI 军备竞赛，主张专精与可控
Microsoft AI 阐述「人本超级智能」（HSI）愿景，并宣布组建 MAI 超级智能团队。其核心是拒绝脱离实际的通用 AGI 军备竞赛，主张打造面向特定领域（如医疗诊断、个人伴侣）、能力超群但始终受限受控的 AI，确保人类牢牢掌握主导权。