跳到正文
IFAI

AI算力

行業標籤545 則新聞

  1. 開源專案傳播指數 48

    Monarch RT 開源:單張 RTX 5090 跑出 16 FPS 即時影片生成

    加速架構 Monarch RT 正式亮相,能在單張消費級 RTX 5090 顯示卡上以每秒 16 幀即時生成影片。其注意力機制比 FlashAttention 快近 4 倍,且畫質保留了密集註意力的約 95%。這意味著開發者無需依賴雲端算力叢集,完整程式碼已在 GitHub 開源。

  2. 大模型傳播指數 43

    Character.ai 解密預訓練技術:6-bit 梯度壓縮讓通訊開銷驟降

    Character.ai 首次公開早期由 Noam Shazeer 帶領研發的 Transformer 預訓練最佳化技巧。其中最引人關注的是 6-bit 梯度壓縮演算法 Squinch,在叢集網路頻寬僅為頂尖系統四分之一的限制下,保持了與 bfloat16 相當的訓練精度。團隊同時還公開了注意力正則化與蒸餾最佳化等工程細節。