跳到正文
IFAI

开源项目

Deepseek 开源轻量 OCR:文本压缩十倍,单卡日刷 20 万页

首次发布 传播指数 48

Deepseek 公布一套全新的 OCR 系统,把文本作为图像压缩处理,体积缩减至原来的十分之一,且保留 97% 原文信息。该方案大幅压低视觉 token 占用,单张 Nvidia A100 每天可处理超 20 万页,代码与模型权重已开源。

Deepseek 开源轻量 OCR:文本压缩十倍,单卡日刷 20 万页
图:the-decoder.com

Deepseek OCR 是一套专为大语言模型打造的文档解析与图像压缩系统。它的核心思路是把文档文字当成图像处理,将视觉 token 压缩到传统方案的十分之一,同时保留 97% 的原文信息,让大模型在长文档理解中不再轻易触碰显存天花板。

代码和模型权重目前均已完全开源,开发者可以直接获取并部署。

它能做什么

这套系统支持约 100 种语言的文档识别,不仅能提取纯文本,还能处理图表、化学方程式和几何图形,并保留原文档的排版结构。

在深度解析模式下,它能把复杂的财务图表直接转换成结构化的 Markdown 表格与图表数据,同时保留对图像的整体描述能力。

不同复杂度的文档消耗的 token 差异很大。处理简单的演示文稿只需要 64 个视觉 token,常规书籍和研报大约消耗 100 个 token。

遇到排版密集的报纸或复杂版面,系统会开启高达模式(Gundam mode),视觉 token 占用最高也只有 800 个。相比之下,传统 OCR 工具处理同类任务通常需要数千个 token。

在 OmniDocBench 基准测试中,Deepseek OCR 仅用 100 个 token 就击败了消耗 256 个 token 的 GOT-OCR 2.0;在 800 token 以内,它的表现也优于每页需要消耗 6000 多个 token 的 MinerU 2.0。

怎么做到的

Deepseek OCR 的体积相当克制,主要由两部分构成:3.8 亿参数的视觉编码器 DeepEncoder,以及基于 Deepseek3B-MoE 架构、仅有 5.7 亿激活参数的文本生成器。

DeepEncoder 的设计非常巧妙。它前半部分使用 Meta 拥有 8000 万参数的 SAM 分割模型提取特征,后半部分连接 OpenAI 拥有 3 亿参数的 CLIP 模型。

团队在两个模型中间加入了一个 16 倍压缩器。一张 1024 乘 1024 分辨率的图片原本对应 4096 个 token,经过 SAM 与压缩器处理后直接骤降至 256 个,随后才送入计算开销更大的 CLIP 模型,从源头上切掉了绝大部分计算负载。

训练这套模型消耗了约 100 种语言的 3000 万页 PDF,其中包括 2500 万页中文和英文材料,以及 1000 万张合成图表、500 万个化学公式和 100 万个几何图形。

速度与硬件开销

在实际生产环境下,单张 Nvidia A100 GPU 每天可以处理超过 20 万页文档。

如果扩展到 20 台配备 8 张 A100 的服务器集群,整套系统每天的吞吐量可以达到 3300 万页,非常适合用来搭建清洗海量文档的大模型预训练语料流水线。

为什么重要

如果你正在搭建企业知识库或长文档问答流水线,Deepseek OCR 绝对值得尽早接入测试。它把原本沉重的文档前处理直接降维成了轻量级的特征提取,不仅省下了大量 token 预算,还大幅缓解了模型长上下文窗口的显存压力。

在同类开源方案里,很多工具还在靠拼凑巨型模型堆准确率,Deepseek 这次用 SAM 加 CLIP 中间夹压缩器的架构,证明了只要特征抽取路径设计得当,几亿参数的小模型完全能在精度和速度上把多模态老前辈拉下马。

来源 (1)

  1. [1]
    the-decoder.com(在新标签页打开)原文the-decoder.com

每日 AI 内容精选