跳到正文
IFAI

开源项目

Meta 开源音频生成框架 AudioCraft:文字一键生成音乐和环境音效

首次发布 传播指数 57

Meta 正式开源音频生成框架 AudioCraft,并公开全部代码与权重。该框架打包了文本生成音乐的 MusicGen、生成环境音效的 AudioGen 以及升级版神经编解码器 EnCodec。研究者和创作者可以直接用自己的数据集训练专属模型。

Meta 开源音频生成框架 AudioCraft:文字一键生成音乐和环境音效
图:ai.meta.com

AudioCraft 是 Meta 开源的一站式音频生成框架,能让你只用几句文字提示,就直接生成高品质的音乐和环境音效。

过去生成式 AI 的热度大多集中在图像和文本,音频领域一直进展较慢。原因在于音频的信号非常复杂,尤其是音乐,既有局部的微小音符,又有横跨多乐器的全局乐理结构。已有的工具往往架构繁琐且不够开放,普通人很难拿来自己修改。

AudioCraft 把复杂的音频生成流程打包进了一个统一的代码库里,并将底层的全部代码与模型权重彻底开源。

它能做什么

AudioCraft 整合了三个核心模型,分别对应音乐生成、音效生成与底层压缩解压,彼此无缝配合。

负责音乐生成的是 MusicGen。它使用 Meta 拥有版权或获得专门授权的音乐进行训练,用户只要输入曲风、乐器或情绪描述,它就能合成结构连贯的完整乐段。

负责环境声音的是 AudioGen。这次 Meta 正式放出了它的预训练模型,模型基于公开音效数据训练,能精准模拟狗叫、汽车鸣笛、木地板上的脚步声等日常声音。

串联起这两者的是升级版神经音频编解码器 EnCodec。Meta 这次更新了 EnCodec 解码器,能在更低伪影的前提下重建高保真音频,让生成的音乐听起来更加干净真实。

怎么用起来

对研究人员和开发者来说,AudioCraft 最大的意义在于打破了黑盒。

整个代码库同时支持音频压缩、音效生成和音乐建模。你不需要东拼西凑不同的工具,所有管线都在同一个地方。

Meta 公开了完整的训练流程和模型权重。这意味着从业者不仅能直接调用现成模型,还可以第一次用自己私有的音频数据集,在本地从头或微调训练专属模型。

无论你是想做一款更智能的音效生成器,还是优化音频压缩算法,都能直接站在现有权重的基础上继续推进。

为什么重要

在商业音频生成工具普遍采取封闭 API 的当下,Meta 把高质量音频模型的基础设施直接推向了开源社区。

对游戏独立开发者、短视频创作者或独立音乐人来说,这套工具能大幅降低找音效和制作背景音乐的门槛,随手输入提示词就能搭建情绪草稿。Meta 甚至认为,随着控制维度的增加,MusicGen 未来可能会像当年的电子合成器一样,成为音乐家创作时的新型乐器。

我们认为,这一步走得相当聪明。音频生成的算力和数据门槛极高,Meta 开放基础底座,相当于让全球开发者免费帮它探索应用场景和迭代算法。不过,受限于目前的文本控制精度,它目前更适合作为灵感草稿和辅助工具,真正专业的编曲和高精度声音设计,依然离不开人工的精细打磨。

来源 (2)

  1. [1]
    ai.meta.com(在新标签页打开)原文ai.meta.com
  2. [2]
    about.fb.com(在新标签页打开)报道about.fb.com

同类事件

过去类似的事,帮助理解这一条。

每日 AI 内容精选