PyTorch 2.0 正式釋出:引入 torch.compile,模型加速無需改程式碼
PyTorch 團隊正式推出 PyTorch 2.0。新版本在保持原有動態圖開發習慣的前提下重構底層編譯器,核心加入可選的 torch.compile API,在 AMP 精度下平均提速 36%。此外還內建縮放點積注意力運算元,開箱即可加速 Transformer 訓練。
PyTorch 團隊正式推出 PyTorch 2.0。新版本在保持原有動態圖開發習慣的前提下重構底層編譯器,核心加入可選的 torch.compile API,在 AMP 精度下平均提速 36%。此外還內建縮放點積注意力運算元,開箱即可加速 Transformer 訓練。