跳到正文
IFAI

NVIDIA

公司357 則新聞

  1. 開源專案傳播指數 44

    NVIDIA 全面加速 Llama 3:單張 H200 跑 70B 每秒吐 3000 token

    NVIDIA 宣佈對 Meta 新發布的 Llama 3 進行全平臺推理最佳化。測試顯示,單張 H200 執行 700 億引數版本時每秒生成約 3000 token,可同時服務約 300 名使用者;80 億引數版本也已適配 Jetson 和 RTX PC。開發者可直接通過 NIM 微服務在瀏覽器中試用。

  2. 產業動態傳播指數 36

    Nvidia CEO 黃仁勳:通用人工智慧預計在 5 年內到來

    在 2023 紐約時報 DealBook 峰會上,Nvidia CEO 黃仁勳預測 AGI 將在未來 5 年內實現。他將 AGI 定義為能通過普通人基礎智力測試的軟體,並提到沒有 AI 就造不出 H-100 晶片;但他同時指出,AI 目前還搞不定人類擅長的多步驟複雜推理。