加州落地 18 项 AI 监管新法：严打 Deepfake，死后「数字分身」需授权
9 月底，加州州长 Gavin Newsom 签署了 18 项 AI 监管法律，同时否决了争议巨大的 SB 1047。新法全面针对具体场景，重点打击选举与色情 Deepfake、强制披露训练数据源，并禁止未经许可克隆在世或已故演员的声画，监管重心从抽象风险转向实际侵权。
AI安全
查看更新的新闻
探测 o1 推理过程或被封号：OpenAI 发警告信严守「思维链」
OpenAI 自上周推出具备推理能力的 o1 模型后，开始向试图窥探其隐藏思维链的用户发送警告信甚至威胁封号。o1 在界面中只展示经二道过滤的思考总结，不少用户和安全研究员尝试用提示词注入套取真实过程，甚至输入「reasoning trace」一词就会触发违规警告。
甲骨文埃里森谈 AI 监控：未来将全天候记录所有人一举一动
Oracle 联合创始人 Larry Ellison 在分析师会议上表示，未来 AI 将驱动庞大的执法监控系统，全天候记录并监督警察与普通公民，以此降低犯罪率。不过外界担忧，基于历史偏差数据的全方位监控极易加剧社会歧视。
OpenAI 安全委员会转为独立架构：拥有推迟模型发布权
OpenAI 宣布将安全与安保委员会转为独立的董事会监督委员会，由卡内基梅隆大学的 Zico Kolter 担任主席。该委员会拥有在安全顾虑解决前推迟模型发布的权力，相当于给前沿模型发布设置了独立的刹车机制。
LAION 重发 58 亿图文数据集：剔除 2236 条涉嫌违规链接
曾为 Stable Diffusion 提供训练数据的 LAION 重新发布数据集 Re-LAION-5B。该版本根据多家保护机构的建议，删除了 2236 条涉嫌违规儿童内容的链接，并提供两个版本，供研究机构替换旧版或清洗现有数据。
OpenAI 与 Anthropic 签约：新模型发布前后接受美政府安全测试
周四，美国 AI 安全研究所宣布与 OpenAI、Anthropic 签署备忘录，两家公司同意在主要新模型发布前后向该机构开放访问权限，以协助评估风险与提出改进建议。此举正值美国探讨 AI 监管边界之际，此前两家公司曾对加州 SB 1047 安全法案表达顾虑。
奥普拉将主持 ABC 黄金档 AI 特别节目：对话奥特曼与比尔·盖茨
据 Variety 报道，奥普拉将主持 ABC 黄金档特别节目《AI and the Future of Us》，定于 9 月 12 日播出。节目将对话 OpenAI CEO 奥特曼、比尔·盖茨和博主 Marques Brownlee 等人，用通俗语言拆解 AI 对普通人日常生活、就业及教育的冲击。
加州争议 AI 法案通过立法会：强制大模型设防，正等待州长签署
加州备受争议的 AI 安全法案 SB 1047 已在州立法机构通过，正等待州长签署生效。该法案要求超大模型开发者建立并记录防范重大危害的安全保障机制。此前马斯克出人意料公开表态支持，而 OpenAI 则明确表示反对。
马斯克公开力挺加州 SB 1047 法案：与 OpenAI 唱反调支持监管
Elon Musk 在 X 上公开支持加州 SB 1047 安全法案。该法案强制大模型厂商防范严重危害，即便旗下 xAI 也会被波及。最值得关注的是，老对手 OpenAI 刚刚表态反对，Musk 却认为这是一项艰难但必要的决定，并强调自己主张 AI 监管已有 20 多年。
Anthropic 公开 Claude 系统提示词：禁用绝对词，假装自己「完全脸盲」
Anthropic 公开了 Claude 3.5 Sonnet 等模型的官方系统提示词。提示词除了严禁识别人脸、要求假装「完全脸盲」外，还规定不能用「certainly」等绝对词开头，并要求中立探讨争议话题。头部 AI 厂商主动公开系统人设底牌，这还是头一次。
OpenAI 与微软支持加州 AI 法案：社交平台必须明确标注 AI 内容
OpenAI、Adobe 与微软表态支持加州 AB 3211 法案。该法案不仅要求在 AI 生成的音视频和图片元数据中嵌入水印，还强制 Instagram、X 等大型平台必须用普通人看得懂的方式明确标注 AI 内容。此前曾以「负担过重」反对的科技巨头，在法案修正后集体倒戈支持。
扎克伯格联手 Spotify CEO：欧洲监管正在扼杀开源 AI
Meta CEO 扎克伯格与 Spotify CEO 埃克联合发文，直指欧洲碎片化且不一致的监管正在扼杀开源 AI 发展。文章透露，因合规不确定性，Meta 将无法在欧洲推出即将发布的多模态 Llama 模型。他们呼吁欧盟简化规则，否则欧洲将彻底错失这波技术红利。
DeepMind 约 200 名员工联名施压：要求管理层切断军方技术访问
Google DeepMind 约 200 名员工签署联名信，要求公司终止与军事组织的合同，并切断军方对其 AI 技术的访问。信中重申了 2014 年被收购时绝不用于军事或监控的承诺，呼吁设立新的监管机构。不过，Google 目前尚未给出实质回应。
微软再次推迟争议功能 Recall：测试延期至 10 月，全量推送或等明年
Microsoft 宣布将 Recall 推迟至 10 月向 Windows 预览体验成员开放。该功能此前因截屏未加密引发巨大安全争议，微软正紧急改为默认关闭并强制加密。这表明微软需要更多时间做安全测试，年内恐难向普通用户全量推送。
Anthropic 致信加州州长：修改后的 SB 1047 法案利大于弊
Anthropic 致信加州州长 Gavin Newsom，称加州前沿 AI 监管法案 SB 1047 吸收部分修改建议后大幅改善，目前利大于弊。该法案重点约束耗资巨大的前沿大模型研发方，要求制定安全协议防范灾难性风险，同时基本豁免了小型开发者。
OpenAI 正式反对加州 AI 法案：称扼杀创新，促人才逃离
OpenAI 致信加州议员及州长，正式表态反对加州争议极大的 AI 监管法案 SB 1047。公司认为该法案会减缓创新节奏、逼迫顶尖人才迁出加州，呼吁通过联邦法规统一监管。提案议员则反驳称这一指责「毫无道理」。
McAfee 联手联想：在 Copilot-Plus PC 上推 Deepfake 检测工具
McAfee 宣布在联想 Copilot-Plus PC 上推出 Deepfake Detector。该工具在端侧运行，目前主要靠分析视频中的音频来抓取疑似 AI 伪造内容并弹窗报警。提供 30 天免费试用，首年订阅费 9.99 美元起。
Anthropic 遭作家集体诉讼：被控用盗版书数据集训练 Claude
当地时间周一，多位作家在加州法院对 Anthropic 提起集体诉讼，指控其使用开源数据集 The Pile 中的 Books3 盗版电子书库训练 Claude 模型。原告要求赔偿并禁令未来使用其版权作品。此前 Anthropic 已确认曾使用 The Pile 训练模型。
特朗普转发 AI 伪造的泰勒·斯威夫特背书图，并称「我接受」
据报道，Donald Trump 周末在社交网络发布 AI 生成图片，包含伪造歌手 Taylor Swift 为其竞选背书的内容，并配文「我接受」。专家指出，现存反深度伪造法规存在盲区，很难限制此类夸张内容，但 Swift 本人或能以侵犯肖像权主张权益。
怀俄明州出现「AI市长」候选人：宣称胜选后全让 ChatGPT 决策
美国怀俄明州夏延市长候选人 Victor Miller 承诺，若胜选将让定制 ChatGPT「Vic」100% 独立决策，自己仅负责签字执行。州选举官员已裁定 AI 无权列入选票，OpenAI 也曾封禁其账号，但他仍坚持以人机混合模式参选。