Intel 推出 AutoRound：把 72B 大模型压到 INT2，量化只要 37 分钟
Intel 介绍了模型量化工具 AutoRound。它通过符号梯度下降联合优化权重舍入与截断范围，在 INT2 精度下相对准确率最高比主流基准提升 2.1 倍。轻量模式下量化 72B 模型仅需 37 分钟，并支持导出 GPTQ、AWQ 和 GGUF 等格式。
Intel 介绍了模型量化工具 AutoRound。它通过符号梯度下降联合优化权重舍入与截断范围，在 INT2 精度下相对准确率最高比主流基准提升 2.1 倍。轻量模式下量化 72B 模型仅需 37 分钟，并支持导出 GPTQ、AWQ 和 GGUF 等格式。