跳到正文
IFAI

开源项目

Meta 开源 Omnilingual ASR:支持 1600 种语言,改用 Apache 许可

首次发布 传播指数 57

Meta 开源语音识别系统 Omnilingual ASR,直接支持 1600 多种语言转录,远超 Whisper 的 99 种。借助零样本上下文学习,它能扩展至 5400 多种语言。最关键的是,它彻底放弃了受限的 Llama 协议,改用完全自由商用的 Apache 2.0 许可。

Meta 开源 Omnilingual ASR:支持 1600 种语言,改用 Apache 许可
图:venturebeat.com

Omnilingual ASR 是 Meta 开源的多语言自动语音识别模型家族,可以直接把 1600 多种语言的语音转录成文字。

作为对比,业界常用的 OpenAI 开源模型 Whisper 只支持 99 种语言。在 Omnilingual ASR 原生支持的 1600 多种语言中,有超过 500 种此前从未被任何语音识别系统覆盖过。

零样本扩展到 5400 种语言

除了原生训练覆盖的语种,Omnilingual ASR 还带来了一种灵活的扩展机制。它把大语言模型里的上下文学习搬到了语音识别中,官方称之为「自带语言」功能。

这意味着你不需要重新微调或者训练模型。在推理调用时,只要给模型喂几个新语言的音频和对应文字配对,它就能当场学会转录这种新语言的其他语音。

通过这种零样本能力,该系统的潜在覆盖范围扩展到了 5400 多种语言,基本涵盖了目前所有拥有文字记录的人类口语。

规格与准确表现

整个模型套件基于 1600 多种语言、超过 430 万小时的音频数据训练,底层使用 PyTorch 和 Meta 的 fairseq2 框架构建。

模型尺寸覆盖了轻量级到大规模。其中既有针对低功耗端侧设备的 3 亿参数轻量版,也有追求极致准确率的 70 亿参数大模型。架构上包含了用于自监督语音表征的 wav2vec 2.0、高效监督转录的 CTC 模型,以及结合 Transformer 文本解码器的 LLM-ASR 结构。

识别质量方面,在官方测试的 1600 多种语言中,78% 的语言字符错误率低于 10%。对于训练数据超过 10 小时的语种,达到这一标准的比例上升到 95%。即便是训练音频不到 10 小时的低资源长尾语言,也有 36% 达到了该标准。

开源权限上,这次 Meta 彻底摒弃了此前用于 Llama 家族、限制大企业使用的受限协议,全面采用标准的 Apache 2.0 许可证。开发者和企业完全可以免费用于商业项目,没有任何商用门槛。

除了模型权重和代码,Meta 还同步开源了涵盖 350 种稀缺语种的语音语料库,采用 CC-BY 许可。目前代码已托管在 GitHub,权重已在 Meta 官网开放,技术论文同步上线,Hugging Face 上也提供了可直接测试的网页 Demo。

为什么重要

如果你正在开发需要出海多语种支持的产品、做小语种口述档案数字化,或者寻找可以离线商用的语音转录底座,现在就可以直接下载体验。它彻底填补了全球数千种长尾语言长期缺乏 AI 工具的空白。

我们认为,Meta 这次改用完全无限制的 Apache 2.0 是极其明智的动作。此前带有门槛的开源协议曾让不少企业望而却步,而彻底开放加上零样本示例扩展的能力,很可能让 Omnilingual ASR 取代 Whisper,成为开源语音转录事实上的通用基础设施。不过对于极低资源的语言,仅靠几条样本推断时的识别质量仍然无法比拟充分训练的系统,实际落地前仍需根据具体场景验证。

来源 (2)

  1. [1]
    venturebeat.com(在新标签页打开)原文venturebeat.com
  2. [2]

每日 AI 内容精选