跳到正文
IFAI

开源项目

Hugging Face 开源 SmolVLM2:最小仅 256M,手机也能看懂视频

首次发布 传播指数 49

Hugging Face 发布 SmolVLM2,推出 2.2B、500M 和 256M 三种尺寸的轻量级多模态模型。其中 500M 版本用不到四分之一的参数量实现了接近 2.2B 的视频理解能力,并原生支持 MLX,可直接在 iPhone 和 Mac 本地离线运行。

Hugging Face 开源 SmolVLM2:最小仅 256M,手机也能看懂视频
图:huggingface.co

SmolVLM2 是 Hugging Face 推出的轻量级多模态模型家族,专门用来在各种低算力设备上运行视频与多图理解任务。

这套模型一共提供三个尺寸:2.2B、500M 以及极小的 256M。它们直接打破了视频模型必须依赖云端高显存的门槛,甚至能在 iPhone、Mac 本地以及免费的 Google Colab 上跑起来。

它能做什么,表现怎么样

主力款 2.2B 模型在图像解题、照片文字识别、复杂图表和科学视觉问答上都有明显提升。

在涵盖 900 个视频、长达 254 小时的综合基准 Video-MME 测试中,2.2B 版本的成绩超过了目前现有的所有 2B 级别模型。

更亮眼的是 500M 版本。官方借鉴了 Apollo 论文中的数据混合经验,让 500M 模型用不到四分之一的参数量,拿到了非常接近 2.2B 的视频理解效果。

至于 256M 则属于探索性质的实验版本,也是目前开源领域最小的视频语言模型,适合开发者做定制化微调。

在实际功能上,SmolVLM2 不仅支持同时输入多张图片做对比,还能处理超过一小时的长视频,自动抽取关键的高光时刻。

怎么在本地跑起来

SmolVLM2 发布当天就补齐了 Transformers 和苹果 MLX 生态的支持。

Python 开发者可以直接使用 Transformers 库的对话模版,把视频文件路径或图片链接喂进去就能得到结构化回答。

苹果用户则可以通过 mlx-vlm 库跑 Python 脚本,或者直接用 Swift 调用。在 Mac 上,一行命令就能用未量化的 500M 模型进行视频内容分析。

官方还展示了几个具体落地原型:一个完全在 iPhone 本地脱机运行的视频理解应用,以及与 VLC 播放器合作的语义搜索原型,输入一句自然语言就能跳转到对应的视频片段。

目前所有模型权重已经在 Hugging Face 上线,500M 版本还附带了一份免费的 Colab 全量微调教程。

为什么重要

我们认为,SmolVLM2 最大的价值在于把视频理解从云端大模型拉进了终端设备。过去做端侧视频分析、智能相册或监控切片,哪怕量化模型也常常把手机或边缘盒子跑崩,而 500M 的体积让全天候常驻成为现实。

如果你是移动端开发者或边缘计算玩家,非常值得现在去尝试它的 MLX 实现。不过也要看到,极端紧凑的参数量决定了它处理复杂因果逻辑的能力有限,更适合做视频检索与状态判断的专用探针,而不是通用的全能助手。

来源 (1)

  1. [1]
    huggingface.co(在新标签页打开)原文huggingface.co

每日 AI 内容精选