Marlin 2B 开源:20 亿参数拿下视频事件定位,精准带时间戳
NemoStation 开源视频语言模型 Marlin 2B,基于 Qwen 3.5 2B 微调,遵循 Apache 2.0 协议。它主打回答视频里「发生了什么」与「何时发生」,能生成带时间戳的事件描述并精准定位起止点。其实测表现逼近部分闭源大模型,非常适合本地部署与视频结构化处理。
想在一段几十分钟的监控或长视频里找一个具体镜头,大部分现存的多模态模型给出的答案往往让人头疼。它们要么只能笼统概括视频讲了什么,要么根本报不出精确的秒数,想准确定位还得自己一帧一帧拉进度条。
团队 NemoStation 最近开源的 Marlin 2B,试图把这件麻烦事彻底打下来。这个模型只有 20 亿参数,基于 Qwen 3.5 2B 微调,遵循 Apache 2.0 开源协议,在普通电脑上就能本地部署运行。
专攻「发生了什么」和「何时发生」
Marlin 2B 的目标非常明确,就是从视频中提取结构化信息。它主要回答两个最实际的问题:画面里发生了什么,以及具体是什么时候发生的。
在实际测试中,你给它一段视频,它可以直接生成包含精确起止时间戳的事件列表。如果你想搜索具体事件,比如输入「枪战发生的时间」,它能准确圈出该片段在视频中的起始时间和结束时间。
这种能力对于视频剪辑初剪、监控回放定位、敏感内容审核以及给大模型清洗视频训练集非常管用。以往这类工作要么靠人工肉眼硬看,要么得调用昂贵的闭源商业模型 API。
根据团队的实测,Marlin 2B 在不用 LLM 裁判的 TimeLens-Bench 基准上排名开源模型第 5。在综合平均指标上,它的表现比体积大 3.5 倍的 GPT-5 还高出了 3.9 mIoU,在部分视频字幕生成测试中甚至逼近了闭源的 Gemini 2.5 Flash。
测着测着,发现同行基准全偏了
有意思的是,开发团队在训练这个模型时,还顺手撕开了行业评测的一块遮羞布。他们最初参考密集字幕模型 Tarsier 的训练配方,想用 CaReBench 和 DREAM-1K 等标准基准来打榜,结果发现越测越不对劲。
原来,行业里传统的密集视频基准普遍采用「纯文本裁判」。评测模型时,裁判只比对模型生成的文字和参考答案,根本不看原始视频。
这就导致了一个荒谬现象:如果模型比标准答案更细致,反而会被扣分。比如视频里出现了一个黄色人形生物,Marlin 2B 准确描述了「黄色」,而标准答案只写了「人形生物半跪」。纯文本裁判因为在答案里找不到颜色,就会判定模型产生了幻觉。
团队用多模态模型挂载实际视频帧进行复核,发现 CaReBench 里 70.2% 的测试片段标准答案本身就有事实错误,DREAM-1K 的错误率也高达 65.8%。很多所谓的标准答案连衣服长短袖、横幅文字都写错了。
为了绕开这些充满偏差的基准,团队一方面转向纯指标评测,另一方面也基于真实视频验证推出了自己的基准测试 GRACE。
为什么重要
我们认为,Marlin 2B 最值得称道的地方在于它克制的技术定位。它没有跟风去卷宏大的全能视频推理,而是把 20 亿参数的有限容量全压在「带时间戳的事件定位」这一刚需场景上,打得非常准。
对于个人开发者、剪辑师或小团队来说,它的实用价值立竿见影。过去做视频检索和切片,调用闭源大模型的 token 成本高得吓人,还容易超出上下文限制。Marlin 2B 只有 20 亿参数,可以直接塞进消费级显卡甚至高配轻薄本的本地内存里,离线批量跑数据,既安全又零边际成本。
对行业而言,它也敲响了一记警钟:多模态领域的很多权威基准,可能早就被脱离实际画面的文本裁判带偏了。如果连测试集标准答案都有大半存在事实错误,各家模型盲目刷榜就毫无意义。把模型做小、把任务做实、把评测校准,看起来才是小团队突围的大模型正道。
来源 (1)
- nemostation.com(在新标签页打开)原文nemostation.com