跳到正文
IFAI

開源專案

Deepseek 開源輕量 OCR:文本壓縮十倍,單卡日刷 20 萬頁

首次發布 傳播指數 48

Deepseek 公佈一套全新的 OCR 系統,把文本作為影像壓縮處理,體積縮減至原來的十分之一,且保留 97% 原文資訊。該方案大幅壓低視覺 token 佔用,單張 Nvidia A100 每天可處理超 20 萬頁,程式碼與模型權重已開源。

Deepseek 開源輕量 OCR:文本壓縮十倍,單卡日刷 20 萬頁
圖:the-decoder.com

Deepseek OCR 是一套專為大語言模型打造的文件解析與影像壓縮系統。它的核心思路是把文件文字當成影像處理,將視覺 token 壓縮到傳統方案的十分之一,同時保留 97% 的原文資訊,讓大模型在長文件理解中不再輕易觸碰視訊記憶體天花板。

程式碼和模型權重目前均已完全開源,開發者可以直接獲取並部署。

它能做什麼

這套系統支援約 100 種語言的文件識別,不僅能提取純文本,還能處理圖表、化學方程式和幾何圖形,並保留原文件的排版結構。

在深度解析模式下,它能把複雜的財務圖表直接轉換成結構化的 Markdown 表格與圖表資料,同時保留對影像的整體描述能力。

不同複雜度的文件消耗的 token 差異很大。處理簡單的簡報只需要 64 個視覺 token,常規書籍和研報大約消耗 100 個 token。

遇到排版密集的報紙或複雜版面,系統會開啟高達模式(Gundam mode),視覺 token 佔用最高也只有 800 個。相比之下,傳統 OCR 工具處理同類任務通常需要數千個 token。

在 OmniDocBench 基準測試中,Deepseek OCR 僅用 100 個 token 就擊敗了消耗 256 個 token 的 GOT-OCR 2.0;在 800 token 以內,它的表現也優於每頁需要消耗 6000 多個 token 的 MinerU 2.0。

怎麼做到的

Deepseek OCR 的體積相當剋制,主要由兩部分構成:3.8 億引數的視覺編碼器 DeepEncoder,以及基於 Deepseek3B-MoE 架構、僅有 5.7 億啟用引數的文本生成器。

DeepEncoder 的設計非常巧妙。它前半部分使用 Meta 擁有 8000 萬引數的 SAM 分割模型提取特徵,後半部分連線 OpenAI 擁有 3 億引數的 CLIP 模型。

團隊在兩個模型中間加入了一個 16 倍壓縮器。一張 1024 乘 1024 解析度的圖片原本對應 4096 個 token,經過 SAM 與壓縮器處理後直接驟降至 256 個,隨後才送入計算開銷更大的 CLIP 模型,從源頭上切掉了絕大部分計算負載。

訓練這套模型消耗了約 100 種語言的 3000 萬頁 PDF,其中包括 2500 萬頁中文和英文材料,以及 1000 萬張合成圖表、500 萬個化學公式和 100 萬個幾何圖形。

速度與硬體開銷

在實際生產環境下,單張 Nvidia A100 GPU 每天可以處理超過 20 萬頁文件。

如果擴充套件到 20 臺配備 8 張 A100 的伺服器叢集,整套系統每天的吞吐量可以達到 3300 萬頁,非常適合用來搭建清洗海量文件的大模型預訓練語料流水線。

為什麼重要

如果你正在搭建企業知識庫或長文件問答流水線,Deepseek OCR 絕對值得儘早接入測試。它把原本沉重的文件前處理直接降維成了輕量級的特徵提取,不僅省下了大量 token 預算,還大幅緩解了模型長上下文視窗的視訊記憶體壓力。

在同類開源方案裡,很多工具還在靠拼湊巨型模型堆準確率,Deepseek 這次用 SAM 加 CLIP 中間夾壓縮器的架構,證明了只要特徵抽取路徑設計得當,幾億引數的小模型完全能在精度和速度上把多模態老前輩拉下馬。

來源 (1)

  1. [1]
    the-decoder.com(在新分頁開啟)原文the-decoder.com

每日 AI 內容精選