阿里发布全模态模型 Qwen3.5-Omni:对着镜头说话就能写网页
阿里 Qwen 团队发布原生全模态模型 Qwen3.5-Omni。它能同时理解文本、图像、音频和视频,主打「视听 Vibe Coding」,用户对着摄像头描述需求就能直接生成网站或小游戏。其音频表现超越 Gemini-3.1 Pro,原生支持处理 10 小时音频或 400 秒视频。
阿里 Qwen 团队发布原生全模态模型 Qwen3.5-Omni。它能同时理解文本、图像、音频和视频,主打「视听 Vibe Coding」,用户对着摄像头描述需求就能直接生成网站或小游戏。其音频表现超越 Gemini-3.1 Pro,原生支持处理 10 小时音频或 400 秒视频。
开源语音克隆模型 LuxTTS 发布,只需 3 秒音频就能准确复刻音色。它将推理压缩至 4 步,显存占用不到 1GB,在 GPU 上达到 150 倍实时速度且原生支持 48kHz 高清音频。这意味着普通电脑甚至纯 CPU 也能零门槛跑通高质量配音。
Google 宣布 Google Translate 的耳机「实时翻译」功能正式登陆 iOS,并扩展至 12 个国家。该功能不再绑定专属硬件,接入任意耳机即可通过 Gemini 保留说话者语调并实时翻译 70 多种语言,让普通耳机直接变成翻译机。
Google 推出实时语音模型 Gemini 3.1 Flash Live,主打更自然的语调节奏与复杂推理能力。该模型已接入 Gemini Live、覆盖 200 多个国家和地区的 Search Live,开发者可通过 Google AI Studio 调用,生成音频均带有 SynthID 水印。
Cohere 开源首个语音识别模型 Transcribe。该模型参数量为 20 亿,支持消费级 GPU 本地运行,每分钟可处理 525 分钟音频,涵盖中英日等 14 种语言。其在 Open ASR 榜单字错率为 5.42,同时 Cohere 还提供免费 API 接入。
Smallest.ai 发布专为对话智能体打造的 TTS 模型 Lightning V3。模型支持英语、印地语等 15 种语言自动检测及句中无缝混说,V3.2 版本支持用指令微调情绪与耳语。最关键的是,仅需 5 至 15 秒音频即可克隆出带自然语感的声音。目前已开放免费体验。
阿里开源音效生成模型 PrismAudio。它将强化学习与思维链结合,先分析画面再生成声画同步的音效。模型参数仅 5.18 亿,生成 9 秒音频只需 0.63 秒,在多项基准测试和生成速度上均优于 MM-Audio 等数十亿参数竞品。
Mistral AI 发布首个文本转语音模型 Voxtral TTS。该模型参数量为 4B,支持英语、法语等 9 种语言,典型输入延迟仅 70ms,最快仅需 3 秒音频即可完成声音克隆。模型权重已开源,API 定价为每千字符 0.016 美元。
据 Variety 报道,独立电影《As Deep as the Grave》利用生成式 AI 完整重现了已故影星 Val Kilmer 的形象与声音。Kilmer 生前因喉癌无法进组,制作方在获得其家属授权并遵循工会规范后,借助家庭影像与后期技术完成出演,成为 AI 伦理合规参演的新案例。
阿里开源影视配音模型 Fun-CineForge。输入视频与文本,模型通过引入「时间模态」识别角色并对准唇形,即便面部被遮挡也能卡准节奏发声。最值得关注的是它支持多角色自然切换,让自动配音真正做到了音画对齐。
清华大学开源互动课堂平台 OpenMAIC。输入任意主题或文档,系统就能一键生成课件、测验和交互模拟,并由会画白板、能语音讲解的 AI 老师和插话讨论的 AI 同学实时带练。它让自学从单向看视频变成了可提问、可辩论的虚拟教室,代码基于 MIT 协议开源。
腾讯开源 7B 参数端到端音频大语言模型 Covo-Audio-Chat。模型采用单一架构直接处理连续音频输入与输出,支持原生低延迟全双工交互,能做到边听边说和实时打断。代码与模型权重已在 GitHub 和 Hugging Face 开放。
Fish Audio 发布第二代开源语音模型 Fish Audio S2。它支持在台词中任意插入自然语言标签实现词级语气控制,首包延迟仅 100 毫秒,支持约 80 种语言。模型权重与微调代码已在 GitHub 和 HuggingFace 开源。
一体化数字人模型 ID Laura 开源。它基于 LTX 2.3,改变了以往先克隆声音再匹配口型的两段式做法,只需输入单张人像、参考音频和台词,就能由单个模型同步生成视频、克隆语音与环境音。目前运行至少需 24GB 显存,推荐 48GB。
Hume AI 开源语音语言模型 TADA。它将每个文本 token 与声学向量一对一绑定,生成速度比同类方案快 5 倍以上,在千余测试样本中做到零幻觉。最关键的是它轻量到可在手机等端侧设备直接运行,且 2048 token 窗口能容纳约 700 秒音频。
Tavus 推出多模态感知系统 Raven-1,能实时捕捉对话者的语气、微表情和姿态。它抛弃了传统的喜怒哀乐标签,直接输出自然语言描述,刷新延迟在 300 毫秒内,并支持兼容 OpenAI 的工具调用。这意味着 AI 终于不再只看转写文字,能真正理解言外之意。
X 宣布为平台长文章新增「Listen」按钮,由 xAI 的 Grok AI 语音驱动,支持边刷帖或切换到其他 App 时后台收听。这既能帮创作者扩大受众,也能为 Grok 积累更多深度训练语料。官方称过去 3 个月 X Articles 增长了 18 倍。
AI 视频生成平台 LTX Studio 宣布推出配音与字幕功能,专门面向需要快速制作和本地化视频的企业团队。新能力旨在帮助企业针对不同语言受众调整视频内容。目前官方尚未公布具体支持的语言种类与定价细节。
Anthropic 开始在编程助手 Claude Code 中测试语音模式,目前面向约 5% 用户开放,未来数周逐步扩大。开发者获得资格后会在欢迎界面收到提示,输入「/voice」即可开启,直接用说话代替打字来写代码。
Microsoft 在 Hugging Face 开源语音识别模型 VibeVoice-ASR。它能在 64K 长度内一次性处理长达 60 分钟的连续音频而无需切片,同步输出说话人、时间戳与转录文本,同时支持自定义热词和 50 多种语言的混说转录。