百度推出 Unlimited OCR：固定 KV Cache，長文件解析勻速吃下 40 頁

用大模型做長文件 OCR 時，最讓人頭疼的就是越往後越慢，視訊記憶體還一路狂飆。

百度最近給出了一個解決思路，推出端到端文件解析模型 Unlimited OCR。它總引數 3B，採用 MoE 架構，實際啟用引數只有 5 億，普通裝置就能本地部署。

像抄書一樣固定記憶

這個模型基於 DeepSeek-OCR 微調，核心在於引入了叫 R-SWA 的機制。

傳統大模型在輸出文本時，KV cache 隨著字數增多不斷膨脹，算到後面自然奇慢無比。Unlimited OCR 換了個思路：它模擬人類抄書，眼睛始終盯著整張圖，但腦子裡只記住剛剛寫下的最後 128 個 token。

通過把文本的 KV cache 做成固定容量佇列，單個 token 的注意力開銷不再隨著長度增加。輸出 6000 token 時，它比 DeepSeek-OCR 快了約 35%。不管最終輸出 1 萬還是 10 萬 token，視訊記憶體和算力開銷都完全固定。

在實際處理上，它把每頁 1024×1024 影像壓縮成 256 個 token，藉助 32K 上下文，單次前向就能勻速解析 40 頁以上的文件，還能直接輸出排好序的 Markdown 或 JSON，搞定表格和數學公式。

為什麼重要

我們認為，這個改動切中了知識庫處理中最磨人的工程痛點。

很多團隊搭 RAG 最怕解析幾十頁的財報和論文，要麼拆頁解析丟失上下文，要麼整篇喂進去拖垮顯示卡。Unlimited OCR 只要 5 億啟用引數，把單機本地跑長文件清洗的成本打得極低。

更聰明的是這種架構思路。長序列生成不一定非要全量回看，把已生成文本的注意力視窗砍到極小、同時保全源端視覺資訊，這種權衡同樣適合 ASR 和機器翻譯。