PyTorch 2.0 正式リリース:torch.compile 導入でモデル実行を大幅高速化
PyTorch チームは PyTorch 2.0 を正式発表した。従来の使い勝手を維持しながらコンパイラ基盤を刷新し、中核となる torch.compile API を追加。AMP 精度で平均 36% の高速化を実現した。FlashAttention 相当の最適化機能も標準統合されている。
PyTorch チームは PyTorch 2.0 を正式発表した。従来の使い勝手を維持しながらコンパイラ基盤を刷新し、中核となる torch.compile API を追加。AMP 精度で平均 36% の高速化を実現した。FlashAttention 相当の最適化機能も標準統合されている。