Mistral 釋出 Robostral Navigate:靠單目攝像頭導航,跑贏多感測器
Mistral AI 釋出首個具身導航模型 Robostral Navigate。這款 8B 引數模型僅依靠單個普通 RGB 攝像頭、無需雷射雷達或深度感測器,在 R2R-CE 未見測試集上取得 76.6% 成功率,超越了多感測器系統,適用於輪式、足式與飛行機器人。
讓機器人穿過迷宮一樣的辦公室去儲物間拿個包裹,以往要麼在頭上頂一個價值不菲的雷射雷達,要麼得前後左右架滿深度相機。現在 Mistral 想把這些昂貴的感測器全部拆掉,只留一顆幾十塊錢的普通攝像頭。
Mistral AI 正式推出了自研的具身導航大模型 Robostral Navigate。這個 80 億引數(8B)的模型只憑單一 RGB 攝像頭拍攝的畫面,就能理解人類自然語言指令,帶機器人穿過此前從未見過的真實建築與走廊。
在業內通用的 R2R-CE(連續環境 Room-to-Room)基準測試中,Robostral Navigate 在訓練未見過的測試場景(unseen)中拿下了 76.6% 的成功率。這個成績不僅把目前最好的單目攝像頭方案拉開了 9.7 個百分點,甚至比堆了深度感測器或多攝像頭系統的最強方案還高出 4.5 個百分點。
像人類一樣用手指路
大多數依賴視覺的導航模型,往往一上來就去算機器人在物理世界裡具體位移了幾米幾釐米。這種純測距算座標的邏輯,一旦換一個焦距不同的鏡頭或者換個高矮不同的底盤,整個模型就很容易暈頭轉向。
Mistral 給這個 8B 模型換了一套思路,叫作「指路導航」(pointing)。它直接在機器人當前眼前的畫面裡預測目標位置的畫素座標,並指出到達後的朝向。只要目標在視野內,機器人就像看著遠處的路標往前走,因此對攝像頭的焦距和相機內參變化天然不敏感。
要是目標正好在視野盲區怎麼辦?這時候模型會自動切回兜底模式,給出機器人區域性座標系的相對位移,比如「向前走兩米,左移一點五米,再向左轉二十五度」。據官方介紹,模型支援輪式、足式乃至飛行機器人,不同體型的機器都能適配。
把幾個月的訓練壓縮到幾天
具身智慧最大的痛點是真實世界資料又貴又危險。Mistral 這次全程都在模擬環境裡練兵,一共採集了覆蓋 35 萬個場景的約 240 萬條運動軌跡。
面對如此龐大的軌跡資料,Mistral 搬出了做語言模型的老本行,引入了基於字首快取(prefix-caching)的樹狀注意力掩碼技術。它把機器人一整段長任務直接壓縮排單個序列,一次前向傳播就能算完所有時間步,同時防止未來資訊洩漏。
這項技術把監督訓練所需的 token 數量砍掉了 22 倍,硬生生把原本需要跑幾個月的訓練週期壓縮到了幾天完成。在此基礎上,團隊還套用線上強化學習演算法 CISPO,讓模型在試錯中學會自己調整失誤和探索路線,單是這一步就把任務成功率又往上推了 3.2 個百分點。
為什麼重要
我們認為,Mistral 這一步走得相當務實,切中了當下具身機器人落地的最大死穴:成本與硬體門檻。
以往只要談到讓機器人室內自主巡檢、送外賣或者巡邏,硬體清單裡總少不了昂貴的雷射雷達或多組感測器。這不僅拉高了硬體 BOM 成本,也增加了機械標定和維護的複雜度。Robostral Navigate 證明了只靠一顆最便宜的 RGB 攝像頭,在純模擬合成數據訓練下,就能在複雜室內環境跑出頂尖水準。如果你是從事倉儲、配送或巡檢機器人的開發者,哪怕現在只是觀望,也該意識到純視覺端到端導航已經不再是遙遠的玩具,拿普通硬體試跑的門檻正在急劇降低。
對整個具身智慧行業來說,這也給各家機器人方案敲響了警鐘。過去堆硬體感測器的路線固然穩妥,但大模型結合海量模擬訓練之後,純視覺方案展現出來的泛化和容錯上限正在抹平感測器差距。不過隱患也同樣存在,在強反光、全黑無光或完全缺乏紋理特徵的極端環境下,單目純視覺的可靠性究竟能否完全取代物理感測器,依然需要真實業務場景的長期檢驗。
來源 (1)
- mistral.ai(在新分頁開啟)原文mistral.ai