微软推出 Florence 视觉 API 预览:Reddit 将用它生成图片替代文本
微软将多模态视觉模型 Florence 引入 Azure 认知服务开放预览,Reddit 将利用该 API 为图片自动生成无障碍替代文本。Florence 基于数十亿图文对训练,单图最多可打上万个标签,还支持视频摘要与抠图;目前仅面向 Azure 现有客户开放预览。

两年前微软对外讲过一个叫 Florence 的多模态视觉模型,号称要彻底重构计算机视觉。当时很多视觉模型还只能单干,要么专门打标签,要么专门抠图。现在,微软正式把这个底座塞进了 Azure 认知服务的 Vision API 里,向现有的 Azure 客户开放预览。
按照 Azure AI 负责人 John Montgomery 的说法,Florence 是用数十亿图文对训练出来的。它不仅能一眼认出两张苹果照片里哪个是宇宙脆、哪个是蜜脆,还能直接在一长段视频里精准找出你想要的那一帧。
认得出苹果品种,也看得懂视频
传统的做法往往很别扭:让一个模型专看图,另一个模型专管文字,然后把它们硬接在一起。微软这次主推的则是统一的多模态路径。
Florence 能同时理解文本、图像和视频之间的对应关系。它可以直接计算图文相似度,完成背景消除、视频摘要,或者把照片里抠出来的人物精确贴到另一张背景上。
在底层训练数据上,Montgomery 没有透露具体来源,只表示数据来自合作伙伴且经过了合规获取和过滤,去除了潜在违规内容,并且套用了跟 Azure OpenAI 服务一样的安全审核机制。
Reddit 和微软全家桶先用上了
最先拿它跑业务的是社交平台 Reddit。Reddit 计划用 Florence 给社区里的海量图片自动生成无障碍替代文字(alt text),方便视力受损的用户听帖。
据称 Florence 单张图片最多能打出 10,000 个标签。Reddit 不仅要用它给图片写描述,还打算把这些自动生成的图文描述用在站内的搜索排序上,让以前搜不出来的图片贴更容易被翻出来。
微软自家的产品也全都接了进来。LinkedIn 同样拿它写图片描述;Teams 靠它做视频分割;Word、PowerPoint 和 Outlook 接入了自动生成 alt text;OneDrive 和新推出的图形设计工具 Designer 则用它来打标签、以图搜图以及生成背景。
未来微软还打算把这套能力推向制造业的瑕疵检测,甚至是超市里的自助结账。
为什么重要
我们认为,微软把 Florence 搬上 Azure,最大的意义在于降低了企业处理海量多模态内容的工程门槛。以往企业如果既想搜图片、又想做无障碍适配、还想做视频剪辑,通常得串联三四个小模型,既吃算力又容易丢上下文。现在调一个统一的 API,很多多模态任务就能一站式搞定。
对于像 Reddit 这样背负着海量 UGC 内容的平台来说,这不仅是做无障碍的善意,更是在盘活多年沉淀下来的非结构化图像资产。把图片自动转化成精细的文本标签,搜索引擎才能真正看懂内容,进而撬动推荐和商业化。
但隐患依然存在。数十亿图文对的版权出处在业内极其敏感,微软含糊带过的负责任获取并没有彻底消除潜在的版权风险。同时,单图万个标签虽然听起来全面,但如何避免生成冗余的幻觉噪点,企业在接入时仍然需要自己做一层工程过滤。
来源 (1)
- techcrunch.com(在新标签页打开)原文techcrunch.com