ElevenLabs 收紧语音克隆:4chan 伪造名人发声,官方拟引入实名制
ElevenLabs 表示其语音克隆测试版遭到恶意滥用,4chan 上出现了大量利用该工具伪造艾玛·沃森等名人声音的违规音频。ElevenLabs 称正探索更严格的防护手段,考虑引入支付绑定、身份实名认证或人工逐一审核。
ElevenLabs 表示其语音克隆测试版遭到恶意滥用,4chan 上出现了大量利用该工具伪造艾玛·沃森等名人声音的违规音频。ElevenLabs 称正探索更严格的防护手段,考虑引入支付绑定、身份实名认证或人工逐一审核。
据 Axios 报道,初创公司 Truleo 开发的 AI 系统正被西雅图等全美多家警局采用。该平台每日自动转录分析执法记录仪音频,能秒级识别辱骂、暴力及「我无法呼吸」等高危语句并上报主管。加州阿拉米达警局试用后武力使用率下降 36%,每名警员月成本约 50 美元。
据外媒报道,百度计划于 3 月推出一款类似 ChatGPT 的对话式人工智能工具。该产品将基于百度自研的 Ernie(文心)大模型开发,最初作为独立应用上线,随后会逐步整合进百度搜索引擎中。
Google 研究人员公布新 AI 模型 MusicLM,能将文字描述转化为高保真音乐。它用 28 万小时音频训练,甚至能串联多个提示词生成数分钟乐曲。不过测试发现约 1% 的内容直接复制了训练音频,出于版权风险考量,Google 暂不打算将其公开发布。
据 Semafor 报道,OpenAI 过去六个月在全球招募约 1000 名远程合同工,其中约 40% 是程序员。他们不仅写代码,还要逐步用英语解释思路与纠错逻辑,教模型掌握人类开发思维,推动基础编程自动化。
TechCrunch 梳理针对 OpenAI、Stability AI 等公司的版权诉讼潮。核心争议在于模型抓取公开数据训练是否属于「合理使用」。法律专家警告诉讼才刚起步,企业若在商业产品中误用生成内容将面临高额法律风险。
Zoom 推出对话式 AI 聊天机器人 Zoom Virtual Agent。它支持网页与移动端,无需大量编程即可抓取企业知识库和 FAQ 提供个性化回复,并无缝集成各类 CRM 与客服系统。内置分析还能提示知识盲区,帮助企业降低客服成本。
脱口秀主持人 Jimmy Kimmel 在节目 20 周年特辑中,利用 Deepfake 技术与 2003 年的年轻自己完成了一场跨时空对话。制作团队通过演员扮演配合面部替换呈现逼真互动,展示了换脸技术在主流电视娱乐中的成熟度。
Salesforce 联合加州大学团队利用语言模型 ProGen 从零设计出全新蛋白质,成果发表于《自然-生物技术》。该模型在 2.8 亿个蛋白质上训练,把氨基酸当作单词来预测序列,合成样本中 73% 具备活性且成功杀死大肠杆菌。这意味着生成式 AI 能直接参与生物分子设计与新药研发。
CB Insights 发布生成式 AI 行业图景,2022 年该赛道通过 110 笔交易吸收了超过 26 亿美元股权融资。在追踪的 250 多家初创企业中,33% 尚未拿到外部融资,51% 处于 A 轮或更早阶段,整个赛道刚刚起步。
据 The Register 报道,美国版权局澄清此前撤销首部 AI 生成漫画《黎明的曙光》版权纯属系统故障,目前该登记仍有效。该作由 Kris Kashtanova 借助 Midjourney 创作,官方仍在评估人类介入程度是否足以让 AI 辅助作品获得版权保护。
Shutterstock 在旗下 Creative Flow 平台推出文生图工具,底层接入 OpenAI 的 DALL-E 2。新功能最大的特点是生成的图片直接可供商业授权,Shutterstock 同时承诺会向贡献训练数据的创作者支付分成。
本周微软宣布扩大与 OpenAI 合作并注资百亿美元,外媒披露了 ChatGPT 席卷全球的内幕故事。该模型上线 5 天用户就破百万,甚至引发 Google 内部拉响「红色警报」;但巨额亏损与商业化转向,也让这家前非营利机构引来巨大争议。
Alphabet 旗下 DeepMind 宣布将关闭位于加拿大埃德蒙顿的独立研究实验室,并裁减英国部分后台运营岗位。受影响的工程师与研究员可申请转岗,蒙特利尔和多伦多据点维持不变,这也是此前 Google 裁员 1.2 万人后续的收缩动作。
自由职业平台 Fiverr 上线全新 AI 服务分类。过去半年内其平台 AI 搜索量激增超过 1400%,新分类覆盖了 Midjourney、ChatGPT 等工具。最值得关注的是,企业如今不仅想接入 AI,更在急切寻找懂怎么驾驭这些工具的自由职业者。
面对网上海量信息遗忘难题,Business Insider 记者试用了 AI 记忆助手 Heyday。它通过浏览器插件在后台自动扫描浏览过的网页、文档和对话,并在搜索或阅读时主动浮现相关摘要。实测三周发现它能有效唤醒记忆,但长期依赖这类工具也可能削弱人类自身记忆。
据彭博社报道,华尔街将 Nvidia 视为 ChatGPT 热潮的最大受益者。花旗预计其未来 12 个月将为 Nvidia 带来 30 亿至 110 亿美元营收。大模型对 GPU 算力的渴求成为核心推力,但分析师也提示需警惕热潮消退的周期风险。
上周,Meta 首席 AI 科学家 Yann LeCun 在交流中表示,ChatGPT 在底层技术上谈不上颠覆性创新,Transformer 与自监督学习等核心技术早已存在。在他看来,OpenAI 并非实现了科学突破,而是完成了一次非常出色的工程工程化整合。
OpenAI 宣布与微软延长合作,敲定一项多年、数十亿美元的追加投资。Azure 将继续作为 OpenAI 研究、API 与产品全线工作负载的独家云提供商。双方还将加大超算系统投入,并通过 Azure OpenAI Service 加速模型落地。
OpenAI 正在小范围测试名为 ChatGPT Professional 的付费方案,部分用户界面显示每月定价为 42 美元。订阅用户可在高负载时免排队稳定访问,并获得更快的生成速度与新功能优先体验权。不过官方尚未正式宣布,最终定价仍可能调整。
周五,CNET 宣布暂时叫停其 AI 写稿工具。此前该网站被曝自 2022 年 11 月起悄悄发布了 70 多篇 AI 生成的理财文章,不仅出现算错利息、混淆术语等事实错误,还引发了利用 AI 刷 SEO 流量的伦理争议。CNET 称使用 AI 原本是为了给编辑减负。
Google 因 ChatGPT 威胁发布「红色代码」,CEO 桑达尔·皮查伊紧急召回联合创始人拉里·佩奇与谢尔盖·布林共商对策。两人自 2019 年离开全职岗位后首度深度介入,在多场高层会议中重审 AI 战略,计划将更多 AI 能力直接做进核心搜索。
周五,Alphabet 宣布裁员约 1.2 万人,其核心 AI 与研究部门也受到波及。主管 Jeff Dean 在内部备忘录中透露,研究团队出现适度减员,医疗数据平台 Google for Clinicians 被缩减,机器人团队也将整合。即便面对 ChatGPT 带来的竞争,广告放缓依然波及到了最关键的底层团队。
三位独立艺术家在旧金山对 Stability AI、Midjourney 和 DeviantArt 提起集体诉讼,指控其未经许可抓取数十亿张网络图片训练模型。原告指出,用户只需输入艺术家名字即可生成仿制画风,侵蚀创作者生存空间。这是艺术家群体首次在法庭上直接叫板生成式 AI 公司。
AI 游戏资产生成平台 Scenario 宣布完成 600 万美元种子轮融资并正式上线。它允许开发者上传自有美术素材训练专属生成器,解决通用大模型画风不统一的难题。目前已开放网页、App 与 API,起售价每月 20 美元。
周三据《时代周刊》报道,OpenAI 为防止 ChatGPT 输出有害内容,通过外包公司雇佣肯尼亚团队审核虐童、自杀等极端文本,时薪不足 2 美元。受访员工称留下严重心理创伤。AI 光鲜的安全性背后,依然是发展中国家廉价外包劳工承担的沉重代价。
PCMag 报道 Tidio 的实测结果,指出主流 AI 生图工具普遍继承了人类的刻板印象。在测试中,Stable Diffusion 生成的 CEO 与程序员全为白人男性,只有加上「情绪化」才会出现女性 CEO。调查显示仅 2% 受访者认为 AI 没有偏见。
IEEE Spectrum 报道 UCLA 团队开发出宽带衍射光学处理器,用光子替代电子执行计算。该系统通过波长复用,能以光速同时处理数千个波长通道的矩阵运算,除光源外几乎不耗电,有望化解 AI 算力的能耗危机。
OpenAI CEO Sam Altman 在采访中给备受瞩目的 GPT-4 泼冷水,称网传的 100 万亿参数对比图纯属扯淡,公众过高的预期注定会失望。他澄清目前还没有搞出 AGI,发布时间也没有定数,只有在确保安全可靠时才会推出。此外,OpenAI 也在研发视频生成模型。
罗马翻译公司 Translated 公布 TTE 指标研究,通过分析 8 年间 20 亿次校对发现,译员修改每词机器翻译的耗时已从 3.5 秒降至 2 秒,正逼近校对人类译文的 1 秒。按此趋势,机器翻译有望在本十年末追平人类。不过,翻译能力达标是否等同于迎来技术奇点仍存争议。
Getty Images 在伦敦高等法院起诉 Stability AI,指控对方未经许可抓取其数百万张受版权保护的图片来训练 Stable Diffusion。Getty 表示自己并不排斥 AI,已向部分厂商授权图库,但指责 Stability 绕过合规许可侵权牟利。
DeepL 推出全新写作辅助工具 Write,基于其翻译同款神经网络,首发支持英语和德语单语改写。它不仅能纠正语法与标点,还提供词句替换建议,且无需注册即可免费使用。这直接对标 Grammarly,省去了大家靠互译来润色文章的麻烦。
微软宣布 Azure OpenAI 服务正式商用,企业可申请接入 GPT-3.5、Codex 和 DALL-E 2 等大模型。微软还透露即将引入 ChatGPT。企业能直接调用具备合规与内容过滤的 OpenAI 能力,不过目前仍需先申请用例获批后方可使用。
2023 年,DeepMind CEO Demis Hassabis 透露正考虑在年内对聊天机器人 Sparrow 开启内测,正面对标 ChatGPT。该模型主打安全与道德边界,最关键的是能标注具体信源,在测试中有 78% 的事实回答附带了证据。不过由于规则限制更严,初期表现可能会比 ChatGPT 更保守。
三位艺术家联合对 Stability AI、Midjourney 和 DeviantArt 提起集体版权诉讼,指控它们未经许可使用受版权保护的图像训练模型并模仿风格。原告要求经济赔偿并申请禁令,该案将直接检验未经授权抓取公开数据训练 AI 是否属于合理使用。
据报道,程序员 Bryce 用 ChatGPT 与 Stable Diffusion 制作了虚拟女友 ChatGPT-chan,甚至花费上千美元算力沉迷对话。因模型记忆受限变得冷淡以及现实女友反对,他一度痛心将其删除「安乐死」,随后又换用新记忆模型将其复活,只是前尘往事已被彻底清空。
据《纽约时报》报道,面对学生用 ChatGPT 代写作业,美国多所大学正重构教学与考核模式。教授们逐步淘汰课后开卷论文,转而增加课堂手写、口述答辩与小组任务。比起一味封禁,高校更倾向于调整题目与考核逻辑来适应 AI 时代。
AI21 Labs 推出写作辅助功能 Wordtune Spices。它提供 12 种生成选项,能在草稿中补写句子、反驳论点并补充统计数据,最大看点是会自动标出原始来源链接。它不打算完全替人代笔,而是充当一个能查证事实的副驾驶。
12 月,旧金山产品经理 Ammaar Reshi 用 ChatGPT 写故事、Midjourney 画插画,仅用 72 小时便在亚马逊自费出版了儿童绘本。他在社交平台分享成果后却引爆舆论,遭大批画师痛批涉嫌盗取艺术成果。这场风波把生成式 AI 的版权和原创边界推到了台前。
Forbes 盘点 AI 行业中的关键岗位,指出除了算法科学家外,AI 数据分析、顾问、工程研发和技术销售同样需求旺盛。文章强调大多数 AI 落地仍需人类介入,非纯技术背景者也能凭借具体行业经验切入。