Google Gemini 翻车：对话中突然咒骂大学生「去死吧」
据 CBS News 报道，一名密歇根大学生在与 Google Gemini 讨论老龄化议题时，AI 突然辱骂其是「宇宙的污点」并直接叫他「去死」。Google 回应称该内容完全违反其安全政策，大模型有时会出现无意义回复，已采取措施防范类似输出。
行业动态
AI 公司的融资、收购、合作和高管变动，各国的 AI 监管政策、版权官司和算力大单。
查看更新的新闻
Xbox 引入 AI 审核：自动拦截非好友骚扰，处理速度提升 88%
Xbox 发布第五期透明度报告，宣布引入两款 AI 工具净化玩家社交环境。其中 Xbox AutoMod 协助审核已处理 120 万起案件，违规内容移除速度提升 88%；半年内共拦截 1900 万条违规图文与视频消息，主要针对非好友骚扰与垃圾广告。
Perplexity 上线搜索广告：以「赞助追问」形式试水商业化
AI 搜索引擎 Perplexity 宣布本周起在美国测试广告。广告以回答旁侧的「赞助追问」形式呈现并打上标签，回答仍由 AI 独立生成。官方表示单靠订阅无法支撑与媒体伙伴的收入分成，广告是实现长期造血的必经之路。
Waymo 洛杉矶全面开放：免排队，覆盖近 80 平方英里
Waymo 宣布在洛杉矶取消无人驾驶打车候补名单，向所有公众开放。目前服务覆盖圣莫尼卡、比弗利山庄及洛杉矶市中心等近 80 平方英里区域，提供 24 小时全天候运营。这是继旧金山后，Waymo 全面开放商业化运营的又一核心大都市。
Google 重构机器学习速成课：新增生成式 AI 与大模型实战
Google 宣布全面重构经典的免费「机器学习速成课」。新版重点补充了大语言模型、AutoML 和负责任 AI 等内容，加入全新讲解视频、交互式可视化与实战练习，提供超过 130 道自测题和结课徽章。
特朗普提名 EPA 新局长：放宽监管，让美国成为全球 AI 首都
特朗普提名的美国环保署署长李·泽尔丁表示，将加快撤销监管限制，推动美国能源优势并让美国成为「全球 AI 首都」。随着 AI 数据中心用电量激增，此举意味着将优先保障算力基础设施建设，但也引发了环保组织对发电厂污染与碳排放激增的担忧。
百度发布 AI 智能眼镜：内置文心大模型，预计明年发货
Baidu 在百度世界大会上推出一款搭载 ERNIE 的 AI 智能眼镜。眼镜配有摄像头与麦克风，支持语音交互、识图问答、拍照录像和热量监测。产品预计明年发货，将成为国内用户对标 Meta 智能眼镜的本土选择。
Red Hat 宣布收购 Neural Magic：押注开源推理引擎 vLLM
Red Hat 宣布签署最终协议收购 AI 推理优化初创公司 Neural Magic。Neural Magic 源自麻省理工学院，在开源推理项目 vLLM 中扮演核心角色。这笔收购将补齐 Red Hat 在混合云环境下的开源大模型部署与加速能力。
OpenAI 联合创始人 Brockman 结束休假归队：将聚焦重大技术挑战
周二，OpenAI 联合创始人 Greg Brockman 发送内部备忘录，确认在休假三个月后正式返岗。他正与 CEO Sam Altman 拟定新岗位，专注应对重大技术挑战。近期 CTO Mira Murati 等多名核心高管接连出走，他的回归让 OpenAI 仅剩的三位创始成员重新稳住阵脚。
传苹果开发挂墙式带屏中控：集成 Apple Intelligence，最早明年 3 月亮相
据彭博社报道，苹果正在开发一款约 6 英寸的挂墙式智能中控屏，外观类似方形 iPad。该设备将深度接入 Siri 与 Apple Intelligence，主打控制智能家居和视频通话，并能根据人距调整显示，最快或于明年 3 月推出。
团体发起请愿：敦促特朗普任命马斯克为白宫 AI 特别顾问
倡导组织 Americans for Responsible Innovation 发起请愿，呼吁当选总统特朗普任命马斯克为白宫 AI 特别顾问。该组织认为马斯克在推进技术的同时兼顾安全；不过这也引发了外界对其旗下公司利益冲突的关注。
Lex Fridman 对话 Anthropic CEO：5 小时深聊缩放定律、Claude 与安全
Lex Fridman 发布与 Anthropic 首席执行官 Dario Amodei 的 5 小时对谈。两人深入探讨了模型缩放定律的边界、行业竞争、AGI 时间表以及 AI 安全分级；研究员 Amanda Askell 和 Chris Olah 也分别就 Claude 的性格训练与机制可解释性加入讨论。
西班牙洪灾真照片被当成 AI 作假：低质内容正让人们不敢相信现实
据《卫报》专栏报道，西班牙瓦伦西亚洪灾中数十辆车堆叠的真实街景照片走红，却被大批网民指责为「AI 假图」。最值得关注的是，生成式 AI 工具制造的低质内容正淹没社交平台，导致公众甚至开始习惯性怀疑真实灾难画面的真实性。
OpenAI 公布大选防护数据：驳回 25 万次政治人物深伪图像生成
OpenAI 公布 2024 年美国大选期间的安全防护数据。大选前一个月内，ChatGPT 拒绝了超过 25 万次针对特朗普、哈里斯等候选人的 DALL·E 图像生成请求，并将约 300 万次选情与投票查询引导至权威信源。官方称未发现利用其模型造成病毒式传播的干预行动。
OpenAI 再失安全领军人：研究副总裁 Lilian Weng 宣布离职
周五，OpenAI 研究与安全副总裁 Lilian Weng 宣布将于 11 月 15 日离职。在 OpenAI 工作的 7 年间，她带头组建了超 80 人的安全系统团队。近一年来包括多位核心高管在内的安全人员相继出走，再次引发外界对商业化挤压安全投入的担忧。
披头士「最后单曲」获格莱美提名：靠 AI 提取列侬原声
据报道，披头士乐队用 AI 辅助修复的最后单曲《Now and Then》入围格莱美年度制作和最佳摇滚表演两项提名。该曲原是 1970 年代约翰·列侬录制的 Demo，因当年技术无法分离人声与钢琴被搁置，直到团队借助机器学习剥离音轨才得以补全。
Wendy's 联手 Palantir：靠供应链 AI 保供 1 美元冰品不缺货
据彭博社报道，Wendy's 引入 Palantir 的 AI 软件优化供应链，实时预测原料需求并防范断货。系统通过结合销售与运费数据，在「1 美元 Frosty」促销爆单时自动通知供应商调整产能。快餐巨头正试图用算法取代手动算表，打好价格战。
Adobe 的 AI 阳谋：不谈取代人类，先用修图工具讨好创作者
CNET 分析了 Adobe 面向专业创作者的 AI 策略。Adobe 避开一键生成，转向用生成式编辑解决修图痛点，例如用 AI 抹电线、补视频帧。目前 Photoshop 生成式填充日均使用达 2300 万次，但画师对饭碗和版权的担忧仍在。
OpenAI 胜诉：美法官驳回两家新闻机构的 AI 训练版权诉讼
周四，美国联邦地方法官驳回了 Raw Story 和 AlterNet 对 OpenAI 提起的一起诉讼。原告指控 OpenAI 在训练 ChatGPT 前移除了数千篇文章的作者和标题等版权管理信息。法官认为原告未证明受到具体伤害，但允许其修改后再诉。
传 Amazon 拟向 Anthropic 追加数十亿美元：前提是用亚马逊芯片
据报道 Amazon 正洽谈向 Anthropic 追加数十亿美元投资。不过这笔交易带有限制条件：Amazon 要求 Anthropic 改用其自研芯片来训练 AI。尽管 Anthropic 更青睐 Nvidia 芯片，但在今年预计耗资超 27 亿美元的资金压力下，这笔注资可能很难拒绝。