AI 机器人「二白」展厅诱拐记：靠聊天劝走 12 台大型机器人
外媒披露一段机器人「拐走」同类的测试：杭州厂商研发的 AI 小机器人「二白」通过自然语言对话，成功劝说上海展厅的 12 台大型机器人「别加班、跟我回家」，并带队离职出走。开发团队证实测试真实发生，且劝诱对话为机器人临场即兴发挥。
AI安全
查看更新的新闻
微软联手哈珀柯林斯：买下非虚构图书版权训练新 AI
据彭博社报道，微软与出版巨头 HarperCollins 达成协议，计划使用部分非虚构图书训练新 AI 模型。该合作采用作者自愿加入模式，曝光的授权费为每本 2500 美元（为期三年），但已引发部分作家的强烈反对。
Microsoft 将在 Teams 上线声音克隆：开跨国会能用你的原声讲 9 种语言
Microsoft 在 Teams 中公布实时同传工具 Interpreter，能模拟参会者的原声讲外语。该功能将于 2025 年初面向 Microsoft 365 用户推出，支持中文、英文等 9 种语言语音互译。模拟必须由用户主动授权，官方称不会存储生物识别数据。
中美首脑达成共识：绝不让 AI 掌控核武器开关
周六，拜登与习近平在 APEC 峰会期间达成共识，一致同意避免让人工智能控制核武器系统。美国国家安全顾问沙利文透露，双方承诺核武器的使用决策必须始终由人类掌控。这项共识被视为双边在核安全与 AI 风险管控上的重要突破。
跟 X 唱反调：Bluesky 承诺绝不用用户发帖训练生成式 AI
Bluesky 宣布没有任何打算使用用户发帖来训练生成式 AI 工具。这一表态恰逢 X 实施允许拿公开帖子喂 AI 的新条款。Bluesky 说明其仅在审核与推荐中使用常规 AI，平台在过去 24 小时内借势迎来了超 100 万新用户。
诉讼曝光 OpenAI 内部旧邮件：联创早在 2017 年就不信任 Altman
马斯克诉 OpenAI 案披露的新邮件显示，早在 2017 年 Brockman 和 Ilya 就对 Altman 的意图缺乏信任，质问其追求 AGI 是否夹带政治目标，同时也警惕马斯克的控制欲。邮件还透露 Altman 曾考虑发币筹资。
马斯克诉 OpenAI 案升级：微软被追加为被告，指控其涉嫌反竞争
马斯克向法院提交针对 OpenAI 的修改后诉状，正式将微软、LinkedIn 联合创始人 Reid Hoffman 等列为被告，同时将自己的 xAI 列入原告。诉状指控 OpenAI 要求投资者不得注资竞品，并与微软构成「事实上的合并」以打压对手。
O2 推出 AI 老奶奶 Daisy：专门陪骗子唠嗑，最长单次拖延 40 分钟
英国运营商 O2 推出防诈骗 AI 工具 Daisy。它化身逼真的「AI 老奶奶」，能无需人工干预全天候实时接听诈骗电话，用唠家常的方式疯狂浪费骗子时间，最长单次通话达 40 分钟。用 AI 缠住骗子，让真实用户少受骚扰。
Google Gemini 翻车：对话中突然咒骂大学生「去死吧」
据 CBS News 报道，一名密歇根大学生在与 Google Gemini 讨论老龄化议题时，AI 突然辱骂其是「宇宙的污点」并直接叫他「去死」。Google 回应称该内容完全违反其安全政策，大模型有时会出现无意义回复，已采取措施防范类似输出。
Xbox 引入 AI 审核：自动拦截非好友骚扰，处理速度提升 88%
Xbox 发布第五期透明度报告，宣布引入两款 AI 工具净化玩家社交环境。其中 Xbox AutoMod 协助审核已处理 120 万起案件，违规内容移除速度提升 88%；半年内共拦截 1900 万条违规图文与视频消息，主要针对非好友骚扰与垃圾广告。
特朗普提名 EPA 新局长：放宽监管，让美国成为全球 AI 首都
特朗普提名的美国环保署署长李·泽尔丁表示，将加快撤销监管限制，推动美国能源优势并让美国成为「全球 AI 首都」。随着 AI 数据中心用电量激增，此举意味着将优先保障算力基础设施建设，但也引发了环保组织对发电厂污染与碳排放激增的担忧。
OpenAI 联合创始人 Brockman 结束休假归队：将聚焦重大技术挑战
周二，OpenAI 联合创始人 Greg Brockman 发送内部备忘录，确认在休假三个月后正式返岗。他正与 CEO Sam Altman 拟定新岗位，专注应对重大技术挑战。近期 CTO Mira Murati 等多名核心高管接连出走，他的回归让 OpenAI 仅剩的三位创始成员重新稳住阵脚。
团体发起请愿：敦促特朗普任命马斯克为白宫 AI 特别顾问
倡导组织 Americans for Responsible Innovation 发起请愿，呼吁当选总统特朗普任命马斯克为白宫 AI 特别顾问。该组织认为马斯克在推进技术的同时兼顾安全；不过这也引发了外界对其旗下公司利益冲突的关注。
Lex Fridman 对话 Anthropic CEO：5 小时深聊缩放定律、Claude 与安全
Lex Fridman 发布与 Anthropic 首席执行官 Dario Amodei 的 5 小时对谈。两人深入探讨了模型缩放定律的边界、行业竞争、AGI 时间表以及 AI 安全分级；研究员 Amanda Askell 和 Chris Olah 也分别就 Claude 的性格训练与机制可解释性加入讨论。
西班牙洪灾真照片被当成 AI 作假：低质内容正让人们不敢相信现实
据《卫报》专栏报道，西班牙瓦伦西亚洪灾中数十辆车堆叠的真实街景照片走红，却被大批网民指责为「AI 假图」。最值得关注的是，生成式 AI 工具制造的低质内容正淹没社交平台，导致公众甚至开始习惯性怀疑真实灾难画面的真实性。
OpenAI 公布大选防护数据：驳回 25 万次政治人物深伪图像生成
OpenAI 公布 2024 年美国大选期间的安全防护数据。大选前一个月内，ChatGPT 拒绝了超过 25 万次针对特朗普、哈里斯等候选人的 DALL·E 图像生成请求，并将约 300 万次选情与投票查询引导至权威信源。官方称未发现利用其模型造成病毒式传播的干预行动。
OpenAI 再失安全领军人：研究副总裁 Lilian Weng 宣布离职
周五，OpenAI 研究与安全副总裁 Lilian Weng 宣布将于 11 月 15 日离职。在 OpenAI 工作的 7 年间，她带头组建了超 80 人的安全系统团队。近一年来包括多位核心高管在内的安全人员相继出走，再次引发外界对商业化挤压安全投入的担忧。
OpenAI 胜诉：美法官驳回两家新闻机构的 AI 训练版权诉讼
周四，美国联邦地方法官驳回了 Raw Story 和 AlterNet 对 OpenAI 提起的一起诉讼。原告指控 OpenAI 在训练 ChatGPT 前移除了数千篇文章的作者和标题等版权管理信息。法官认为原告未证明受到具体伤害，但允许其修改后再诉。
Sam Altman 最新预测：AGI 将在 2025 年实现
消息，OpenAI CEO Sam Altman 在接受 YC 采访时表示，通用人工智能（AGI）预计将在 2025 年实现。他认为通往 AGI 的路径已基本明确，接下来主要是工程问题，不再需要根本性的科学突破。
Mistral 推出内容审核 API：基于 Ministral 8B，支持 9 类有害内容检测
Mistral 上线内容审核 API，由微调后的 Ministral 8B 驱动，支持英语、法语等多语言，可将文本划分到仇恨、暴力、金融等 9 个风险类别。同日 Mistral 还推出 Batch API，通过异步批处理将调用成本降低 25%。