#AutoRound

オープンソース拡散指数 44

Intelが「AutoRound」発表：72Bモデルを37分で量子化、INT2でも高精度

IntelはLLMおよびVLM向けの量子化ツール「AutoRound」を発表した。重みの丸めとクリッピング範囲を同時最適化し、INT2精度で従来比最大2.1倍の相対精度を達成。72Bモデルをわずか37分で量子化でき、GPTQやGGUF形式へのエクスポートにも対応する。