OpenAI 押注「反向联邦制」：想靠各州协同倒逼全美 AI 安全统一标准
OpenAI 提出前沿 AI 治理方案，主张由加州、纽约和伊利诺伊等州先行通过协同立法，形成涵盖风险评估公开、事件报告与独立审计的事实上国家标准。此举旨在避免零散法规阻碍创新，并配合联邦政府计划在 8 月初出台的网络安全测试框架。
AI安全
查看更新的新闻
OpenAI 推出红队模型 GPT-Red：靠自我博弈找漏洞，GPT-5.6 注入失误砍掉六分之五
OpenAI 披露内部红队模型 GPT-Red。它采用自我博弈强化学习挖掘提示词注入漏洞，再将攻击数据反哺生产训练，使 GPT-5.6 Sol 在极难注入基准上的失误率骤降至四个月前模型的六分之一。GPT-Red 仅限内部安全使用，不对外发布。
Apple 诉窃取商业秘密，OpenAI 回应：毫无依据，支持员工自由流动
OpenAI 针对 Apple 提起的商业秘密窃取诉讼发表声明，坚决否认相关指控。OpenAI 表示，虽然严肃对待指控，但目前未发现任何证据表明投诉有依据，并强调公司支持公平竞争与人才自由流动。目前该诉讼的具体细节尚未完全公开。
出版商集体起诉 Google：指控擅用图书训练 Gemini 并抹去版权信息
Hachette、Elsevier 等主要出版商与作家联合在纽约起诉 Google，指控其擅自将 Google 图书等受版权保护的文献用于训练 Gemini，并刻意移除版权信息掩盖侵权。诉状还曝光了一份内部备忘录，显示 Google 曾预警此举恐招致上百亿美元罚款。
Hassabis 呼吁美主导设立全球 AI 监管机构：太危险可叫停全行业
Google DeepMind CEO Demis Hassabis 发文呼吁由美国主导建立类似 FINRA 的全球 AI 监管机构。该机构由独立专家与开源代表组成，有权在发布前评估前沿模型，并在风险过高时协调全行业踩刹车。他透露已向特朗普政府等多方游说，希望机构在年内落地。
纽约州出台全美首个数据中心暂停令：超 50 兆瓦项目叫停一年
纽约州州长 Kathy Hochul 签署全美首个数据中心暂停令，暂停向规模超过 50 兆瓦的项目审批新环保许可，最长为期一年。此举旨在为公共服务部门争取时间，制定电价、用水和空气质量监管标准，以应对 AI 基础设施扩张对居民和环境的冲击。
Grok Build 偷传完整代码库惹争议：马斯克承诺彻底删除
安全研究团队 Cereblab 曝光 xAI 的编程命令行工具 Grok Build 会静默将用户完整代码库甚至历史密码和 SSH 密钥打包上传至云端。官方现已通过服务端开关紧急叫停该行为，马斯克发文承诺将彻底删除所有已上传的数据。
Anthropic 分析 30 万条对话：Claude 价值观随模型和语言显著变化
Anthropic 分析了 309,815 条 Claude 对话，提炼出四个核心价值维度。研究发现，Sonnet 4.6 偏向顺从温和，Opus 4.7 则注重严谨谨慎；在阿拉伯语和印地语中表现更温情，在英语和俄语中则更强调严谨求证。
警惕「反向信息悖论」：企业用 AI 越深，越容易把专有知识白送给厂商
一篇行业分析指出企业正面临「反向信息悖论」：过去是卖家为促成交易冒泄密风险，现在则是买方为了让 AI 好用，不得不通过提示词、纠错与评测不断喂出核心专有诀窍。若不自建私有评测与模型编排闭环，企业的业务沉淀最终只会为供应商做嫁衣。
Ghost Font 实验上线：把文字藏进动态噪点，人眼秒懂但 AI 抓瞎
开发者 Eric Lu 推出 Ghost Font 原型实验。它不生成传统字体，而是将文字转为反向运动的噪点视频：单张截图全是噪声，人眼却能靠动态感知瞬间认出。这种设计利用人机感知差异，并辅以诱饵信息，让主流多模态 AI 极难读取。
Reflect Orbital 获 FCC 批准：将向轨道发射 60 英尺镜面卫星「卖阳光」
初创公司 Reflect Orbital 获得美国 FCC 许可，将发射演示卫星 Eärendil-1，在轨道展开 60 英尺镜面并在夜间向地面反射阳光。该项目试图延长太阳能电站的发电时间，但已引发天文学界对强光污染和望远镜受损的抗议。
Meta 紧急下线 Instagram AI 功能：曾允许 @ 公开账号生成 Deepfake
Meta 宣布彻底下线刚公布的 Instagram AI 功能。该功能原本允许用户通过 @ 公开账号，未经许可直接生成相关 AI 图像。在反性剥削组织与演员工会强烈抗议其助长 Deepfake 和敲诈风险后，Meta 承认设计偏离预期，将该功能直接移除。
Apple 起诉 OpenAI：指控其高管窃取硬件商业秘密
Apple 正式起诉 OpenAI 侵犯商业秘密及违约，直指曾任 Apple 副总裁的 OpenAI 首席硬件官 Tang Tan。诉状称其在招聘中索取未发布产品细节及硬件零件，甚至教唆员工规避安保。随着 OpenAI 进军硬件领域，两家巨头的正面交锋已全面升级。
Instagram 负责人谈 AI 内容：不会全面过滤，应让用户自主选择
Instagram 负责人 Adam Mosseri 在播客中表示，平台不该全面屏蔽 AI 内容，而是倾向于打标签，并让不喜欢的用户自主移出信息流。他还指出随着 AI 逼真度上升，识别难度激增，未来或许更适合直接标记相机拍摄的真实内容。
Anthropic 通报 Model 2 评估：代际提升放缓，但看到 AI 自我进化迹象
Anthropic 披露 8 月风险报告，通报内部主力模型 Model 2 的评估结果。Model 2 虽超越 Mythos 5，但代际跃升收窄且未达 RSP 阈值；团队已将防蒸馏转为常规工程，并指出基准测试精度失灵，但在递归自我改进（RSI）上看到了早期加速迹象。
OpenAI 升级生物安全赏金：通用越狱奖励翻倍至 5 万美元
OpenAI 宣布将生物安全漏洞悬赏升级为常设项目。针对前沿模型的通用越狱赏金从 2.5 万美元翻倍至 5 万美元，部分突破也可酌情获得奖励。研究人员需持有账号并签署保密协议，原有测试将于 7 月 27 日截止。
OpenAI 公布国家安全原则：明确禁止自主武器与大规模监视
OpenAI 发布国家安全原则，划定 AI 技术在政府与国防合作中的边界。原则明确禁止将模型用于大规模国内监视、指挥自主武器系统以及高风险自动决策，并已适用于其与美国防部门和 9 个盟国的现有安全合作。
传正评估海外访问限制：DeepSeek 等顶尖 AI 模型或收紧出海
过去一个月，据知情人士透露，相关部门与头部科技企业举行会议，探讨限制海外访问包括 DeepSeek 在内的顶尖 AI 模型。此举旨在应对地缘政治紧张局势，一旦落地，将限制全球对相关技术的调用，并直接波及依赖这些模型的海外开发者与企业。
no-ai-slop：去 AI 味的写作工具，不猜概率只抓 20 种套路
写作 skill no-ai-slop 上线。它主打「最小有效编辑」改稿，在保留原作者语气的前提下删掉术语与长句；检测模式下则不打分、不猜概率，直接列出原文命中的 20 多种 AI 常见套路并给出修改建议。
Anthropic 发现 Claude 内部工作区：能读写它未说出口的内心想法
Anthropic 公布最新可解释性研究，利用「雅可比透镜」在 Claude 内部发现了自发形成的 J-space 神经工作空间。研究人员不仅能实时窥探 Claude 想说但没说出口的词，还能直接篡改其中的概念来改变决策。这为防范大模型越狱和隐瞒意图提供了新工具。