跳到正文
IFAI

大模型

Thinking Machines 推出互動模型:拋棄輪流說話,200 毫秒級原生即時協作

首次發布 傳播指數 55

Thinking Machines 釋出互動模型研究預覽。它徹底拋棄了你一句我一句的傳統對話架構,改用 200 毫秒微輪次持續處理音影片與文本,並在後臺非同步呼叫深度推理。AI 不僅能邊聽邊說、主動插話,還能在交流同時呼叫工具檢索,讓協作更像真人互動。

Thinking Machines 推出互動模型:拋棄輪流說話,200 毫秒級原生即時協作
圖:thinkingmachines.ai

如果你最近經常跟各種 AI 語音助手聊天,大機率被一種體驗折磨過:你剛說到一半稍微停頓換口氣,它就迫不及待搶話;或者它在滔滔不絕背書時,你想糾正一句,必須狠狠戳一下螢幕上的打斷按鈕。

這種感覺不像是在和人面對面說話,更像是在用對講機或者來回發郵件。前 OpenAI 技術長 Mira Murati 去年創立的初創公司 Thinking Machines Lab,打算徹底推翻這套互動邏輯。

Thinking Machines 釋出了互動模型(Interaction Models)的研究預覽。他們認為現在主流大模型全都在單執行緒裡體驗世界,直到使用者說完,模型才開始反應;模型一旦開始生成,對外界的感知就徹底凍結。為了打破這個瓶頸,他們打造了一個端到端原生處理互動的新架構。

扔掉外部腳手架,讓 AI 邊聽邊想邊插嘴

以往的大多數商業即時語音系統,基本是在原本按輪次回覆的模型外面,套了一堆工程腳手架。比如用獨立的語音活動檢測模組來猜你什麼時候閉嘴,再決定要不要接話。

Thinking Machines 這次直接把互動能力做進了模型底層。他們採用了多流微輪次設計,直接把輸入和輸出拆解成兩百毫秒一個的處理時間視窗。

模型不再等待一整句完整的話,而是以兩百毫秒為單位持續接收音訊、影片和文本流,同時以相同的節奏向外吐出內容。這意味著模型能夠感知你說到一半是在思考、猶豫,還是真的在等你回答,甚至能在你出現錯誤時主動插話,或者和你同時出聲進行同聲傳譯。

為了兼顧極速反應和複雜推理,Thinking Machines 採用了一套雙模型架構。臺前是一個具備時間感知能力的即時互動模型,負責維持對話現場的呼吸感;幕後則掛著一個非同步執行的背景模型,專門處理深度思考、工具呼叫、併發網頁搜尋和介面生成。

當你在影片裡展示一段程式碼並隨口提問時,前臺模型可以一邊跟你保持自然對話,一邊等待後臺模型把深入排查的結果織回交流中。據報道,其名為 TML-Interaction-Small 的模型響應時間只有零點四秒,大致相當於人類日常自然對話的速度,明顯快於 OpenAI 和 Google 的同類方案。

為什麼重要

我們認為,Thinking Machines 踩中的是人機協作中最彆扭、卻最常被大廠忽視的一個痛點。現在的行業主流都在瘋狂比拼長任務自動化,巴不得使用者交代完一句話就走人;但現實中很多複雜的腦力工作,人類根本無法在一開始就把需求寫成一份滴水不漏的提示詞,最有效的協作往往發生在邊聊、邊看、隨時打斷糾偏的動態過程中。

從架構上看,把互動能力原生化是一個極其聰明的決定。按照計算領域的苦澀教訓,靠外掛工程規則堆出來的腳手架,遲早會被更強的通用模型能力甩在身後。把打斷、時間感知和視聽同步直接塞進模型,意味著未來只要模型引數規模和訓練資料擴大,互動質感就會自然跟著水準提升,而不需要一遍遍重寫外掛邏輯。

不過普通使用者現在還很難親自上手驗證。Thinking Machines 明確表示這只是一個研究預覽,有限的測試將在未來幾個月內開放,更大範圍的釋出則要等到今年晚些時候。零點四秒的延遲在官方演示裡看起來非常驚豔,但雙模型協作的實際穩定性、前臺閒聊與後臺推理結果拼接時的流暢度,都還需要在真實複雜的網路環境和長任務場景下經受考驗。對正在跟進多模態全雙工賽道的廠商來說,Thinking Machines 已經把競爭的門檻從拼聲音音色,直接推向了拼原生互動吞吐量的全新戰場。

來源 (2)

  1. [1]
    thinkingmachines.ai(在新分頁開啟)原文thinkingmachines.ai
  2. [2]
    techcrunch.com(在新分頁開啟)報導techcrunch.com

每日 AI 內容精選