法國實驗室 Kyutai 推出 Moshi:延遲僅 200ms 的開源即時語音 AI
法國非營利 AI 實驗室 Kyutai 展出即時語音助手 Moshi 並宣佈開源。它僅由 8 人團隊耗時半年研發,端到端延遲低至 200 毫秒,支援 70 種情緒,還能在筆記本本地邊聽邊說。
Moshi 是法國非營利 AI 實驗室 Kyutai 開發的即時語音 AI 系統,它最大的特點是能像真人一樣邊聽邊說,而且延遲只有 200 毫秒左右,程式碼和框架還會以儘量寬鬆的許可證開源給所有人。
這套系統由 8 位科學家花了半年時間從零打造。它擺脫了傳統語音助手先轉文字、再呼叫大語言模型、最後合成聲音的繁瑣鏈路,端到端延遲低至 200 毫秒,幾乎做到了你一開口它就能即時接話。
它能做什麼
Moshi 最出色的能力是雙音訊流處理,也就是能同時聽和說。在真實的人際交談裡,互相打斷、重疊說話是常態,傳統的語音模型一旦被打斷就會卡頓,而 Moshi 可以隨時應對插話。
它不僅能發出聲音,還具備多模態能力,在說話的同時可以在螢幕上同步輸出文本。整個模型自帶豐富的口音儲備,支援 70 種不同的情緒和說話風格,甚至還專門請了專業配音演員合作,讓語氣裡的細微變化更接近真人。
在訓練上,團隊沒有依賴普通的文本資料,而是直接使用標註過的音訊資料進行端到端學習,配合用語音合成技術生成的 10 萬場高擬真合成對話進行精調,讓它直接理解人類發音的語氣和語調。
怎麼跑起來
除了低延遲,Moshi 的另一個亮點是支援完全離線執行。它適配了 CPU、CUDA 和 Metal 後端,可以直接塞進筆記型電腦等消費級裝置上跑,不需要連網傳輸任何敏感資料,徹底保障了私密性。
Kyutai 宣佈將免費公開 Moshi 的程式碼和框架,並承諾採用極度寬鬆的開源許可。為了防止語音濫用,團隊也在同步研發配套的音訊水印、AI 生成識別和簽名追蹤技術。
官方計劃根據使用者和開發者的反饋繼續迭代,並在近期向公眾和開源社群開放體驗與下載。
為什麼重要
我們認為,Moshi 最聰明的地方在於把原本專屬於科技巨頭的閉源語音即時互動體驗,直接拉到了開源世界和本地硬體上。如果你是開發者,或者想在客服、社交應用裡做無網路依賴的私有化語音助理,Moshi 幾乎是目前最值得關注的開源方案。
比起 OpenAI 演示卻遲遲不開放的類似語音模式,Kyutai 靠 8 人團隊半年拿出的成果證明了語音端到端模型不必耗費巨資閉門造車。不過對於個人使用者來說,本地部署依然需要一定算力配置,且模型在複雜長上下文任務上的智慧程度,還需要等社群拿到程式碼後進一步檢驗。
來源 (2)
- youtube.com(在新分頁開啟)原文youtube.com
- greenbot.com(在新分頁開啟)報導greenbot.com