纽约市长用 AI 克隆自己声音打多语电话,引发伦理争议
昨天,纽约市长 Eric Adams 在发布会上透露,其办公室正用 AI 工具克隆自己的声音,向市民拨打普通话、粤语和西语等多语种自动电话。最受争议的是电话未注明是 AI 合成,被监督团体批评涉嫌误导与虚荣;市长则辩称这只是为了跨越语言障碍联系市民。
昨天,纽约市长 Eric Adams 在发布会上透露,其办公室正用 AI 工具克隆自己的声音,向市民拨打普通话、粤语和西语等多语种自动电话。最受争议的是电话未注明是 AI 合成,被监督团体批评涉嫌误导与虚荣;市长则辩称这只是为了跨越语言障碍联系市民。
在百度北京举办的「Prompt the World」大会上,李彦宏正式推出文心大模型 4.0。他表示该模型在理解、生成、逻辑和记忆四大核心能力上全面升级,综合水平不逊于 GPT-4。百度已将其接入搜索、文库和地图等产品,不过资本市场反响偏谨慎,发布当日股价微跌。
据报道,迪拜警方计划在居民区部署全电动无人巡逻车。该车由 Micropolis Robotics 研发,配有 360 度人脸识别与板载无人机,能靠 AI 识别可疑行为并连续巡逻 15 小时。不过它的最高时速仅 7 公里,抓贼别指望追车,主要靠呼叫警员支援。
Anthropic 宣布扩大网页端访问范围,正式面向全球 95 个国家和地区开放 claude.ai。用户登录后即可直接与 Claude 对话,处理日常或专业工作。这意味着更多海外用户无需排队或等待,就能直接体验 Claude。
Inflection AI 宣布其 AI 助手 Pi 正式支持联网搜索。用户现在可以向 Pi 询问最新的新闻、事件等实时内容。这意味着一直主打温和、高情商对话的 Pi,终于补齐了实时获取全网新鲜信息的能力。
纽约市发布全美主要城市首份《人工智能行动计划》,提出 37 项行动以规范政务 AI 应用,并在 MyCity 平台上线解答商业咨询的聊天机器人。目前纽约已有十余个部门使用 30 多项算法工具,新计划旨在防范偏见并提升办事效率。
Stack Overflow 宣布裁员 28%(超 100 人),主要削减销售与支持团队。随着生成式 AI 工具融入日常编程,开发者转向聊天机器人寻求解答,让这个去年刚将员工规模翻倍的代码问答社区面临巨大的流量和盈利挑战。
据《金融时报》报道,SEC 主席 Gary Gensler 警告,AI 在十年内引发金融崩盘几乎不可避免。他指出,若华尔街机构普遍依赖同一套底层基础模型或数据源,将带来横向系统性风险,而现行针对单一机构的监管很难防范这种单点故障。
Descript 推出名为 Underlord 的 AI 视频与播客剪辑助手。它能读懂脚本和视频素材,通过简单指令自动搞定多镜头排版、加字幕、消音和去口癖等繁琐流程。也就是说,剪辑视频像改文档和给同事提需求一样省事。平台提供免费版,每月含 1 小时媒体时长。
Portkey 监测数据显示,GPT-4 响应延迟过去三个月稳步下降,速度正逼近 GPT-3.5。在第 99 百分位的高延迟请求中,耗时缩减超一半;中位数请求的每 token 耗时已低于 1 毫秒。虽然依旧更贵,但对大多数请求来说它已不再慢。
开发者曝光 Google MakerSuite 的未发布界面。多模态大模型 Gemini 将直接接入该平台,同时曝光的还有秘密工具「Stubbs」,允许用户仅凭单句提示词生成、部署并分享可交互的应用原型。
周四,Google 宣布为 Google Cloud 和 Workspace 的生成式 AI 用户提供知识产权免责保护。这项「双重保障」不仅涵盖模型训练数据纠纷,还替合规使用 Vertex AI 与 Duet AI 生成的内容买单。不过政策明确规定,用户故意利用 AI 侵权则不在保护范围内。
Masterpiece Studio 联合英伟达推出文本生成 3D 工具 Masterpiece X – Generate。它基于浏览器运行,接入 NVIDIA Picasso 推理服务,打字即可生成带贴图和简单动画的模型,支持导出至 Blender。官方表示其暂不适合 3A 高模,但能大幅降低创意打样成本。
ElevenLabs 宣布与视频生成平台 Pictory AI 达成合作。Pictory 接入 ElevenLabs 的 AI 语音技术,重点支持英语和德语,让创作者把博客和文本脚本转成视频时,能直接配上高度拟真的自然人声。
初创团队 Spawning 推出反抓取工具 Kudurru。它通过千余个蜜罐网站追踪下载 LAION-5B 数据集的爬虫 IP,艺术家不仅能直接屏蔽爬虫,还能设置回传垃圾图甚至竖中指图像来「投毒」污染训练集。目前以 WordPress 插件形式提供测试。
据 Semafor 报道,OpenAI 最近几周悄然修改了招聘页面的企业核心价值观。新版将「聚焦 AGI」列为第一条,并明确写道「任何对实现 AGI 没帮助的事都不在考虑范围内」,同时新增了「规模化」与「拼劲」。这表明 OpenAI 正将全部重心收拢至通用人工智能的冲刺上。
美国两党参议员推出《No Fakes Act》讨论草案,获罢工中的 SAG-AFTRA 工会全力支持。草案拟在联邦层面禁止未经本人知情同意使用 AI 制作声音或肖像数字复刻。这直击演艺人员的核心痛点,防止制片厂用生成式 AI 廉价取代群演与创作者。
Google 宣布在其生成式搜索体验 SGE 中测试新功能。用户搜索时不仅能直接生成最多 4 张 AI 图片并微调细节,还能让 AI 起草邮件等文字并一键导出至 Gmail 或 Google Docs。目前该功能仅限美国 18 岁以上参与 SGE 实验的用户使用。
据路透社报道,OpenAI 计划在 11 月 6 日的首届开发者大会上推出重大更新,包括支持对话记忆的「有状态 API」,理论上可将调用成本降低高达 20 倍。此外,官方还计划向开发者开放图像分析的视觉 API,加速智能体生态落地。
Character.AI 宣布面向 c.ai+ 订阅用户推出 Character Group Chat 功能。用户可以在同一个聊天室里同时拉入多个 AI 角色与真人好友,一起玩文字冒险、组建读书会或交流讨论。该功能目前仅在移动端 App 上线,后续将扩展至网页端。
周三,哈佛医学院与牛津大学团队在《Nature》发布 AI 工具 EVEscape。它结合演化序列与生物结构信息,能在变异株出现前预判哪些突变最危险、最易逃逸免疫系统,比传统实验更快更高效,旨在辅助研发防患于未然的疫苗与疗法。
Mozilla 正在 Firefox 中测试 Review Checker 功能,借助 Fakespot 的 AI 技术识别虚假电商评论。该功能通过分析评论模式给出 A 到 F 的真实度评级,首批支持亚马逊、百思买等平台,并使用 OHTTP 保护隐私,预计 11 月全量推送。
Adobe 在 MAX 展示了 11 项实验性生成式 AI 原型。包括单帧编辑自动同步全片的视频填充 Fast Fill、对象感知修图引擎 Stardust,以及动态显示图案的交互面料 Primrose 等。这些前沿技术主打跨模态创作提效,未来有望落地产品中。
Replit 在 Hugging Face 开源了代码生成模型 Replit Code V1.5 3B。该模型基于 1 万亿 token 代码数据训练,覆盖 30 种主流编程语言。最值得关注的是,它在微调后表现超越了 CodeLlama 7B 等更大尺寸的模型,且无严格商业限制。
Adobe 联合 C2PA 推出用于标记 AI 生成内容的「透明度图标」。该符号将嵌入图像、视频与 PDF 的元数据中,悬停即可查看创作者和使用的 AI 工具。微软等厂商也将跟进采用。
TikTok 推出 Direct Post 功能,允许第三方应用直接将视频发布至平台,首批支持 Adobe Premiere Pro、Adobe Express 和剪映等。创作者在剪辑软件里就能设好标题和公开范围并一键发送,省去来回导出上传的麻烦。
ElevenLabs 推出 AI Dubbing 工具。它能在几分钟内把语音转译成 20 多种语言,同时保留说话者原本的音色、情绪与语调。系统还支持多人说话人分离与背景杂音过滤,创作者点几下就能做跨语言内容分发。
Google 公布多项气候 AI 进展:洪水预测平台 Flood Hub 拓展至美加等 80 多个国家,可提前最多 7 天预警;同时联手美国林务局升级 50 年未变的林火蔓延预测模型,并将城市树冠分析拓展至全球 2000 多座城市。
10 月,查理·芒格在 Zoomtopia 大会上表示,AI 正在被严重过度炒作,受到的追捧早已超过其应得的程度。他指出软件生成软件的技术早已存在,AI 既治不好癌症,也无法解决人类的所有需求。巴菲特此前也对 AI 的失控风险表达过类似谨慎态度。
AMD 宣布签署协议收购开源 AI 软件初创公司 Nod.ai。Nod.ai 是 SHARK 与 Torch-MLIR 的核心贡献者,其编译器技术可降低多架构部署门槛。AMD 正借此加速构建开源软件生态,追赶竞争对手。
分析机构 CCS Insight 发布预测,称生成式 AI 将在 2024 年迎来「冷水澡」式的现实检验。算力成本高昂令普通机构难以承受,现实阻力正取代狂热炒作。报告还预计欧盟 AI 监管将反复推迟,搜索引擎也将被迫给 AI 内容打标签。
Adobe 在 Adobe MAX 上发布 Firefly Image 2 模型,带来更逼真的画面细节和参考风格生图功能。同时推出全球首个矢量图生成模型并在 Illustrator 中开启公测,Adobe Express 也接入了排版模板与创成式填充功能。
迪士尼《洛基》第二季宣传海报因背景素材带有 AI 瑕疵感,遭到专业画师质疑。海报背景被指来自 Shutterstock 平台的免版税图库,Shutterstock 随后调查并澄清该素材并非由 AI 生成,而是作者使用软件制作了德罗斯特效应。
Google Cloud 推出面向医疗健康领域的生成式 AI 搜索功能。医生能用自然语言直接检索患者历史用药等分散在病历、扫描件里的信息,系统会自动附带原始来源链接以防出现幻觉。目前该功能已在 Vertex AI Search 开启早期访问申请。
据 BleepingComputer 报道,Google Chrome 正在开发「Organize Tabs」功能。该入口位于浏览器左上角,能够智能重新排序已打开的标签页,并在系统分类后自动创建标签组以清理浏览空间。
据路透社报道,OpenAI 正在考虑自研专用 AI 芯片,甚至评估过收购芯片制造企业。随着大模型爆发,英伟达 GPU 供不应求且开销巨大。Altman 已将芯片供应列为头等大事,但自研芯片通常耗时数年且需耗资数亿美元。
据报道,OpenAI CTO Mira Murati 透露团队完全低估了 ChatGPT 的轰动程度,上线几小时后所有前期预案就彻底失效,不得不迅速调整运营方式。她同时警告,各家科技巨头的狂热竞速可能导致行业在安全上「逐底竞争」。
据路透社报道,OpenAI 正探索自研 AI 芯片以缓解算力短缺,方案包括自主设计或收购芯片制造商。CEO Sam Altman 已将获取芯片列为头等大事。此举旨在降低高昂运营成本,但芯片研发极耗资金且周期长,面临不小风险。
Meta FAIR 联手 Inria 开源了图像水印技术 Stable Signature。它打破了生成后再打水印的旧做法,直接在模型解码器中植入不可见水印,即便裁剪、压缩或用 ControlNet 微调也难以抹除。最关键的是,它将误报率压低至极低水平,能精准溯源 AI 假图。
据 Gizmodo 报道,Meta 新推出的 Emu AI 贴纸功能出现明显过滤漏洞。系统虽屏蔽了直接违规词,但只要换成相近表述,就能轻易生成持枪儿童、裸体卡通和极端争议图像。面对平台数十亿次的使用场景,这套护栏显然还没准备好。
Google 在 Made by Google 活动上推出结合生成式 AI 的 Assistant with Bard。它将 Bard 的推理能力与 Assistant 的操作融合,支持图文语音交互,并能调取 Gmail 和 Docs。目前先向早期测试者开放,未来几个月推向公众。
软银 CEO 孙正义在 SoftBank World 大会上表示,通用人工智能(AGI)将在 2030 年前比全人类智慧总和还要聪明 10 倍。他预测届时将实现完全自动驾驶并产出诺奖级成果,更直言不用 AI 的人与使用者的智力差距就像猿与人,甚至如同金鱼。
分析文章指出 AI 正在加速重塑保险核保。针对人工核保耗时长、流程繁琐且容易定价失误的痛点,AI 与机器学习能挖掘文本、语音等非结构化数据,大幅减少人为差错并提升风险评估精度。保险机构借此不仅能加快审批,还能防范网络欺诈,将人力释放到更具价值的客户服务中。
Meta 宣布面向所有广告主推出生成式 AI 广告工具,直接集成进 Ads Manager。功能支持为商品生成不同背景图,并自动产出多版文案。在 5 月小范围测试后,Meta 终于把大模型技术推向核心广告业务,预计明年完成全面推送。
The Browser Company 为 Arc 浏览器推出 AI 工具集 Arc Max,基于 GPT-3.5 与 Anthropic 模型。团队没有做笨重的侧边栏,而是上线了自动重命名标签与下载文件、按 Shift 浮窗预览网页、页内问答等 5 项低干扰功能。用户可自主开启并投票决定留存。
马里兰大学研究团队发布预印本论文,测试并破解了目前市面上所有的 AI 图像水印方法。攻击者不仅能轻易洗掉肉眼不可见的隐形水印,还能给人类拍摄的照片强加水印造成误报。这意味着科技巨头押注的水印防伪,远没有想象中可靠。
Google DeepMind 联合 33 家学术实验室发布 Open X-Embodiment 数据集及 RT-X 模型。数据集汇总了 22 种机器人的百万条演示,跨形态训练让机器人任务成功率平均提升 50%,RT-2-X 的新技能泛化成功率更是提升至三倍,数据集与权重已开源。
Stability AI 推出 3B 参数的轻量语言模型 Stable LM 3B,专为掌上设备和笔记本打造。它的常识推理表现不仅超越同尺寸前代模型,还胜过部分开源 7B 模型,能显著降低端侧运行成本。模型以 CC-By-SA 4.0 协议开源,作为基础模型供开发者微调。
Google 联手宏碁、惠普等厂商推出全新 Chromebook Plus,起售价 399 美元。硬件规格强制翻倍,并把 AI 深度做进系统底层,所有视频通话都能跨软件一键降噪与补光,还自带相册魔术橡皮擦。最值得看的是,Google 借此把原本高端机专属的 AI 体验拉进了平价区间。
Visa 宣布设立 1 亿美元的生成式 AI 投资计划。该计划由旗下 Visa Ventures 主导,重点投资将生成式 AI 技术应用于商业和支付领域的初创公司。Visa 认为,生成式 AI 很快将从内容创作拓展到深刻改变商业交易模式。
Humane 的可穿戴设备 Ai Pin 亮相巴黎时装周 Coperni 秀场,由超模 Naomi Campbell 等人佩戴走秀。设备采用圆角正方形机身,这是它第一次完整展示外观。不过模特现场并未演示具体功能,如何交互仍是未知数。