英政府获优先权：OpenAI、DeepMind 开放模型用于安全评估
英国首相苏纳克在伦敦科技周宣布，Google DeepMind、OpenAI 和 Anthropic 已同意向英国政府开放其 AI 模型用于安全评估。官方借此摸清系统风险，并出资 1 亿英镑设立基础模型任务组，不过具体监管细则尚未公布。
AI安全
查看更新的新闻
Google 推出 SAIF 框架：给大模型防御提示注入与数据投毒
Google 推出安全人工智能框架 SAIF，提出六大核心原则。该框架借鉴软件供应链防护经验，重点应对模型窃取、提示词注入和数据投毒等 AI 专属威胁，旨在为企业落地生成式 AI 建立类似「零信任」的安全通用标准。
德桑蒂斯竞选广告用 AI 伪造图片：特朗普「拥抱福奇」引争议
据 The Verge 报道，德桑蒂斯竞选团队发布了一支攻击特朗普的视频，其中混入了 3 张由 AI 生成的特朗普拥抱福奇的虚假照片。专家指出画面存在皮肤失真、背景标牌乱码等破绽。这种真假混剪的手法，反映出深度伪造正加速渗透政治宣传。
堪萨斯大学开发学术 AI 侦测器：识别 ChatGPT 论文准确率超 99%
堪萨斯大学团队训练出一种机器学习算法，专门识别 ChatGPT 撰写的学术论文，整篇识别准确率达 100%，段落级达 92%。它主要通过词汇丰富度、段落长度和标点差异来判别。不过测试样本量较小，对人类微调过的文本识别能力仍存疑。
OpenAI 遭首例诽谤起诉：ChatGPT 凭空捏造电台主持人贪污 500 万美元
OpenAI 遭遇首起针对 ChatGPT 生成虚假信息的诽谤诉讼。乔治亚州一名电台主持人起诉称，ChatGPT 在总结案件时凭空捏造其贪污逾 500 万美元。这起诉讼将检验 AI 捏造虚假信息是否适用于平台免责保护。
库克透露自己也在用 ChatGPT：苹果正密切关注，企业须自律监管
Apple CEO Tim Cook 在采访中透露自己平时也在用 ChatGPT，并表示苹果正密切关注该技术。他指出大语言模型很有前景，但也存在偏见与虚假信息等隐患；由于技术演进太快让法律监管很难跟上，AI 公司自身必须承担起伦理自律的责任。
欧盟敦促 Google 与 Meta：立即标注 AI 生成内容
欧盟敦促 Google、Facebook 等平台立即对 AI 生成的图文内容添加清晰标注，以打击虚假信息传播。欧盟要求标签必须足够显眼，让用户刷手机时一眼就能看懂「这是机器人在说话」；同时警告退出自愿准则的 Twitter 将面临严厉监管与重罚。
数百位行业领袖联名警告：应将防范 AI 灭绝风险列为全球优先事项
CAIS 发布联合声明，呼吁将防范 AI 灭绝风险列为与大流行病、核战争同等的全球优先事项。包括 Sam Altman、Demis Hassabis 以及 Geoffrey Hinton 在内的数百位行业领袖均联名签署，旨在促使各界正视先进 AI 的极端风险。
日本明确 AI 版权规则：只要不为欣赏原作，版权内容可直接用于训练
日本官方明确生成式 AI 的版权边界：依据现行著作权法，只要目的不是享受原作的创作表达，开发者即可在训练中自由分析受保护内容，商业模型同样适用。这一举措旨在降低研发壁垒并吸引投资，但也引发了动漫、游戏等创作者对缺乏补偿和风格被仿制的担忧。
纽约律师用 ChatGPT 编造判例被抓包：不仅全属虚构，还截图当证据提交
纽约一名律师在诉讼中借助 ChatGPT 查找判例，因大模型严重幻觉引用了 6 起凭空捏造的案件。在法官要求提供判决书时，他竟再次用 ChatGPT 编造全文并截图提交。目前联邦法官已下达命令，涉事律师面临违规制裁听证。
OpenAI 发放 10 个 10 万美元资助：征集 AI 规则民主治理方案
OpenAI 宣布设立资助计划，发放 10 个 10 万美元资助金，支持团队实验如何通过民主程序决定 AI 应遵守的规则。获选团队需在 10 月 20 日前交付包含至少 500 名参与者的实验原型与公开报告，成果全部开源。OpenAI 希望借此探索由公众广泛参与的治理机制。
奥特曼放话：若无法满足欧盟 AI 监管新规，OpenAI 可能退出欧洲
OpenAI CEO Sam Altman 周三在伦敦表示，若无法满足欧盟《人工智能法案》的要求，公司可能会停止在欧盟运营。他质疑将 ChatGPT 等大模型列为「高风险」的做法，强调会尽力配合但存在技术极限。
AI 伪造「五角大楼爆炸」图疯传：美股一度跳水，官方急辟谣
一张疑似 AI 生成的五角大楼爆炸假图在 Twitter 疯传，包括俄罗斯 RT 等大号转发。美股在 4 分钟内跳水 0.26%，随后反弹。当地消防部门迅速辟谣澄清并无事故，网友也指出了围栏扭曲等典型 AI 生成破绽。
OpenAI 谈超级智能治理：呼吁建立类似 IAEA 的国际监管机构
OpenAI 呼吁各界提前治理「超级智能」，提出建立类似国际原子能机构（IAEA）的国际监管机构，对高算力前沿模型进行审计与合规检查；同时建议豁免低于门槛的开源与普通模型，避免阻碍技术创新。
防泄密：Apple 限制员工使用 ChatGPT 与 GitHub Copilot
据《华尔街日报》等报道，Apple 已限制员工使用 ChatGPT 及 GitHub Copilot 等外部 AI 工具，担心机密数据泄露或被用于模型训练。OpenAI 默认保存对话，即使关闭历史记录也会保留 30 天。此前摩根大通、亚马逊也出台了类似禁令。
域名带「GPT」也不行：OpenAI 开始发函清退相关第三方域名
开发者在 Hacker News 透露收到代表 OpenAI 的维权信，要求下架包含「GPT」字样的域名。邮件指出直接在产品名或域名中使用 GPT 会引起用户混淆并涉嫌侵权，即使该域名还是个空白页面。开发者只能在介绍中写「Powered by」，不能把模型名塞进名字里。
Sam Altman 国会听证会：主动呼吁监管，建议对尖端 AI 设许可门槛
OpenAI CEO Sam Altman 在美国参议院听证会上呼吁加强 AI 监管。他建议政府对高复杂度模型实施许可或注册制，并要求上线前进行内外部安全测试。这一表态被视为科技巨头主动介入规则制定的关键一步。
纳德拉驳斥马斯克：微软没控制 OpenAI，由非营利董事会掌舵
微软 CEO 纳德拉否认了马斯克关于微软实际控制 OpenAI 的说法。他表示微软只持有非控股权益与商业合作关系，OpenAI 始终由非营利董事会掌控；同时小公司依然有机会与巨头竞争，AI 不会只是微软和 Google 的双雄争霸。
马斯克称自己是 OpenAI 存在的原因：起了名字还投了 5000 万美元
Elon Musk 在接受 CNBC 采访时称，自己是「OpenAI 存在的原因」。他表示自己当年为公司起了名字、招募了核心人才，并投入了约 5000 万美元。Musk 批评当前 OpenAI 不够重视安全且受微软控制，但微软对此予以坚决否认。
Sam Altman 首次国会作证：呼吁设立新机构与许可制监管 AI
OpenAI CEO Sam Altman 首次出席美国参议院听证会，呼吁政府对前沿 AI 建立监管框架与许可制度。两党议员强调不能重蹈社交媒体监管失控的覆辙，并称赞 Altman 展现出的合作意愿与以往科技巨头截然不同。