跳到正文
IFAI

开源项目

Mistral 开源语音模型 Voxtral:超越 Whisper,支持语音直调函数

首次发布 传播指数 61

Mistral AI 开源发布语音理解模型 Voxtral,推出 24B 与 3B 两个 Apache 2.0 版本。它支持 32k 上下文与 40 分钟长音频,能直接从语音触发函数调用,转录表现全面击败 Whisper large-v3,API 价格仅同类竞品一半。

Mistral 开源语音模型 Voxtral:超越 Whisper,支持语音直调函数
图:mistral.ai

Voxtral 是 Mistral AI 开源的语音理解模型系列,包含 24B 和 3B 两个版本,全部采用宽松的 Apache 2.0 许可证。它不是单纯的语音转文字工具,而是把语音识别和语义理解做在了一起,让你能直接对着长音频提问、生成摘要,甚至靠说话直接触发系统操作。

它能做什么

以往做语音应用,基本都要先用 Whisper 这类工具把语音转成文字,再丢给大语言模型去理解。链路一长,延迟高不说,转录里丢掉的情绪和上下文也很难补救。Voxtral 把这两步并在了一起。

它的上下文长度达到 32k token,单次可以转录最长 30 分钟的音频,或者处理 40 分钟的音频内容理解。你可以直接丢进去半小时的会议录音,让它整理要点或回答某个具体细节。

最实用的是语音直接调用函数。用户只要开口说话,模型就能根据语音意图直接触发后端的 API 调用或系统指令,中间完全不需要先把语音转成文本再做正则解析。

模型原生支持英语、法语、西班牙语、德语、意大利语、葡萄牙语、荷兰语和印地语等多语言自动识别。因为底层底座是 Mistral Small 3.1,它还保留了完整的文本处理能力,可以直接当成通用语言模型来用。

规格与上手门槛

这次开源的有两个尺寸。大号的 Voxtral 参数量为 24B,适合跑在企业级的生产环境;小号的 Voxtral Mini 只有 3B,专门给本地设备和边缘计算场景准备。

转录表现上,Voxtral 全面击败了现在的开源主力 Whisper large-v3,在多项测试里也超过了 GPT-4o mini Transcribe 和 Gemini 2.5 Flash。官方基准显示,Voxtral Small 的表现打平了 ElevenLabs Scribe,但 API 成本还不到后者的一半。

想自己部署的话,24B 和 3B 的权重都已经在 Hugging Face 上放开下载,商用完全免费。如果不想自己搭显卡,官方 API 也已上线,包含一个专门优化过转录速度的 Voxtral Mini Transcribe,调用起步价只要每分钟 0.001 美元。Mistral 网页端和 App 里的 Le Chat 语音模式也会在未来几周对所有用户开放。

为什么重要

如果你的业务一直被 Whisper 的错词率困扰,或者想做语音 Agent 但觉得闭源商业 API 太贵、数据出境有合规风险,Voxtral 是目前最值得立刻拿来替换的开源方案。它把多阶段的语音流水线压成了一个端到端模型,成本和延迟都有明显优势。

当然它现在也有不足。说话人分离、情绪识别、年龄标记以及词级时间戳这类更精细的音频特征,还需要等官方后续更新。但单就直接从语音执行函数和长音频理解来看,开源语音赛道终于有了一个能打平商业顶级闭源方案的底座。

来源 (2)

  1. [1]
    mistral.ai(在新标签页打开)原文mistral.ai
  2. [2]
    techcrunch.com(在新标签页打开)报道techcrunch.com

每日 AI 内容精选