NVIDIA H100 登頂 MLPerf 榜單:3584 塊卡不到 11 分鐘跑完 GPT-3 訓練
NVIDIA 宣佈 H100 GPU 在最新 MLPerf 訓練基準測試中包攬全部 8 項紀錄。由 CoreWeave 搭建的 3584 塊 H100 叢集在不到 11 分鐘內跑完了 GPT-3 測試。這展現了大叢集上近乎線性的擴充套件能力,也進一步穩固了其在大模型訓練算力上的統治地位。
NVIDIA 宣佈 H100 GPU 在最新 MLPerf 訓練基準測試中包攬全部 8 項紀錄。由 CoreWeave 搭建的 3584 塊 H100 叢集在不到 11 分鐘內跑完了 GPT-3 測試。這展現了大叢集上近乎線性的擴充套件能力,也進一步穩固了其在大模型訓練算力上的統治地位。