上海 AI 实验室开源 InternLM 2.5-7B：支持 1M 上下文与工具调用

首次发布 2024年7月3日 UTC 14:02传播指数 46

上海人工智能实验室开源 InternLM 2.5-7B 模型。新模型支持高达 1M 的上下文窗口，重点强化了推理能力与工具调用，并在 Hugging Face Open LLM 榜单 12B 以下级别位居前列，兼顾轻量参数与超长文本处理。

InternLM 2.5-7B 是上海人工智能实验室开源的轻量级语言模型，主打超长文本处理与外部工具调用，专门为想要在本地或自有硬件上构建应用的开发者准备。

它能做到什么

它最亮眼的规格是直接塞进了高达 1M（约 100 万 token）的上下文窗口。这意味着你可以把整本长书、技术文档或者一整套代码仓库直接喂给模型，不用再做繁琐的文本切块和检索处理。

在基准测试上，官方称它是 Hugging Face Open LLM 榜单上 12B 以下级别综合表现最好的模型。除了长文本支持，这次更新还重点强化了模型的核心推理能力与工具调用能力。

目前该模型系列已经托管在 Hugging Face 的 internlm/internlm25 集合中，相关权重均已开放下载。

把 1M 的上下文窗口硬塞进 7B 级别的轻量参数里，这一步非常务实。以往处理超长文本往往只能依赖昂贵的闭源巨型模型，而开源小模型在保持较低运行门槛的同时拿下长文本，直接拓宽了本地落地的可能性。

我们认为，对于想在本地跑 Agent 原型、做长文档分析或代码库问答的独立开发者来说，InternLM 2.5-7B 提供了一个极具性价比的选择，完全值得现在就部署一试。