跳到正文
IFAI

開源專案

Marlin 2B 開源:20 億引數拿下影片事件定位,精準帶時間戳

首次發布 傳播指數 48

NemoStation 開源影片語言模型 Marlin 2B,基於 Qwen 3.5 2B 微調,遵循 Apache 2.0 協議。它主打回答影片裡「發生了什麼」與「何時發生」,能生成帶時間戳的事件描述並精準定位起止點。其實測表現逼近部分閉源大模型,非常適合本地部署與影片結構化處理。

想在一段幾十分鐘的監控或長影片裡找一個具體鏡頭,大部分現存的多模態模型給出的答案往往讓人頭疼。它們要麼只能籠統概括影片講了什麼,要麼根本報不出精確的秒數,想準確定位還得自己一幀一幀拉進度條。

團隊 NemoStation 最近開源的 Marlin 2B,試圖把這件麻煩事徹底打下來。這個模型只有 20 億引數,基於 Qwen 3.5 2B 微調,遵循 Apache 2.0 開源協議,在普通電腦上就能本地部署執行。

專攻「發生了什麼」和「何時發生」

Marlin 2B 的目標非常明確,就是從影片中提取結構化資訊。它主要回答兩個最實際的問題:畫面裡發生了什麼,以及具體是什麼時候發生的。

在實際測試中,你給它一段影片,它可以直接生成包含精確起止時間戳的事件列表。如果你想搜尋具體事件,比如輸入「槍戰發生的時間」,它能準確圈出該片段在影片中的起始時間和結束時間。

這種能力對於影片剪輯初剪、監控回放定位、敏感內容稽核以及給大模型清洗影片訓練集非常管用。以往這類工作要麼靠人工肉眼硬看,要麼得呼叫昂貴的閉源商業模型 API。

根據團隊的實測,Marlin 2B 在不用 LLM 裁判的 TimeLens-Bench 基準上排名開源模型第 5。在綜合平均指標上,它的表現比體積大 3.5 倍的 GPT-5 還高出了 3.9 mIoU,在部分影片字幕生成測試中甚至逼近了閉源的 Gemini 2.5 Flash。

測著測著,發現同行基準全偏了

有意思的是,開發團隊在訓練這個模型時,還順手撕開了行業評測的一塊遮羞布。他們最初參考密集字幕模型 Tarsier 的訓練配方,想用 CaReBench 和 DREAM-1K 等標準基準來打榜,結果發現越測越不對勁。

原來,行業裡傳統的密集影片基準普遍採用「純文本裁判」。評測模型時,裁判只比對模型生成的文字和參考答案,根本不看原始影片。

這就導致了一個荒謬現象:如果模型比標準答案更細緻,反而會被扣分。比如影片裡出現了一個黃色人形生物,Marlin 2B 準確描述了「黃色」,而標準答案只寫了「人形生物半跪」。純文本裁判因為在答案裡找不到顏色,就會判定模型產生了幻覺。

團隊用多模態模型掛載實際影片幀進行復核,發現 CaReBench 裡 70.2% 的測試片段標準答案本身就有事實錯誤,DREAM-1K 的錯誤率也高達 65.8%。很多所謂的標準答案連衣服長短袖、橫幅文字都寫錯了。

為了繞開這些充滿偏差的基準,團隊一方面轉向純指標評測,另一方面也基於真實影片驗證推出了自己的基準測試 GRACE。

為什麼重要

我們認為,Marlin 2B 最值得稱道的地方在於它剋制的技術定位。它沒有跟風去卷宏大的全能影片推理,而是把 20 億引數的有限容量全壓在「帶時間戳的事件定位」這一剛需場景上,打得非常準。

對於個人開發者、剪輯師或小團隊來說,它的實用價值立竿見影。過去做影片檢索和切片,呼叫閉源大模型的 token 成本高得嚇人,還容易超出上下文限制。Marlin 2B 只有 20 億引數,可以直接塞進消費級顯示卡甚至高配輕薄本的本地記憶體裡,離線批次跑資料,既安全又零邊際成本。

對行業而言,它也敲響了一記警鐘:多模態領域的很多權威基準,可能早就被脫離實際畫面的文本裁判帶偏了。如果連測試集標準答案都有大半存在事實錯誤,各家模型盲目刷榜就毫無意義。把模型做小、把任務做實、把評測校準,看起來才是小團隊突圍的大模型正道。

來源 (1)

  1. [1]

每日 AI 內容精選