Mistral 证实神秘模型泄露：逼近 GPT-4 性能的 miqu 确为自研旧作

miqu-1-70b 是一个 700 亿参数（70B）的大语言模型，能为你提供接近 OpenAI 顶级模型 GPT-4 水平的本地推理与文本生成能力。

这个模型最初由用户「Miqu Dev」上传到 Hugging Face，并在 4chan 等社区被发掘传播。2024 年 1 月 31 日，Mistral CEO Arthur Mensch 在 X 上证实，它确实是 Mistral 内部基于 Meta 的 Llama 2 架构重新训练的自研旧模型，因一位早期客户的员工操作不慎而被泄露到社区。

它能做什么与跑分表现

miqu-1-70b 具备极高的通用语言处理能力，其提示词格式（Prompt format）与 Mistral 系列完全一致。

在社区实测与基准评测中，它的表现令人意外。在衡量模型综合能力的 EQ-Bench 榜单上，miqu-1-70b 的成绩已经逼近业界标杆 GPT-4。

在大多数日常测试里，它的表现持平甚至超过了 Mistral 此前最强的开源模型 Mixtral 8x7b，在部分基准测试中甚至压过了 Mistral Medium。除 GPT-4 之外，它几乎击败了当时市面上能见到的绝大部分语言模型。

怎么做到的与硬件规格

从架构上看，它是 Mistral 在拿到算力集群后，基于 Meta 的 Llama 2 底座直接重新训练出来的 70B 模型。据 Arthur Mensch 透露，该模型的预训练早在 Mistral 7B 发布的那一天就已完成。

流出最初的文件是经过量化（Quantized）且带有数字水印的版本。量化技术通过缩短参数的数值精度，让原本需要极高显存的 70B 模型可以在消费级显卡或工作站上运行。

摩根大通机器学习科学家 Maxime Labonne 指出，社区开发者随后迅速反推出了未经量化的完整版本。如果你要在本地部署量化版本，通常需要配置至少 48GB 显存的双卡环境，或者使用高端 Mac 统一内存来承载。

怎么获取与使用限制

目前该模型的量化权重与还原版文件依然存放在 Hugging Face 平台上，用户可以直接下载配置文件到本地推理框架中使用。

有趣的是，Mistral 官方并没有向 Hugging Face 发起侵权下架要求。Arthur Mensch 甚至在模型页面下开玩笑留言，建议上传者「考虑给原作者署个名」。

不过需要注意，这并不是官方正式授权发布的开源项目。它缺乏正式的商业开源许可证，本质上是一份带有客户水印的泄露文件，企业在商用生产环境中部署存在合规风险。

为什么重要

对想要自建高性能本地模型的开发者来说，miqu-1-70b 证明了仅靠 Llama 2 的底座加上优质的重训方案，开源模型就足以触碰 GPT-4 的性能边界。

如果你手头有足够的本地算力，且需要一个不依赖外部 API、推理逻辑极强的离线模型，miqu-1-70b 非常值得拉下来实测。但对于企业用户，建议等待 Mistral 官方后续正式发布的授权模型，避免潜在的版权隐患。