跳到正文
IFAI

AI算力

行業標籤545 則新聞

  1. 產業動態傳播指數 64

    OpenAI 軍備加碼:擬砸 1000 億美元租用備用伺服器

    據 The Information 報道,OpenAI 計劃未來五年追加 1000 億美元租用備用伺服器,疊加上此前的 3500 億美元,年均伺服器租金達 850 億美元。這筆巨資意在鎖定稀缺算力以備突發需求。不過其內部預計到 2029 年將累計燒錢 1150 億美元,現金流在 2030 年才能轉正。

  2. 大模型傳播指數 62

    大模型溫度為 0 仍會變?Thinking Machines 稱真兇在動態批次

    Thinking Machines AI 發文剖析大模型推理不可復現的根源。業內常將「溫度為 0 仍給不同結果」歸咎於 GPU 浮點計算併發衝突,但團隊發現前向傳播本身並無原子累加,真正的罪魁禍首是推理服務因動態批處理缺乏「批次不變性」,輸出會因與其他併發請求湊批而改變。

  3. 產業動態傳播指數 53

    OpenAI 聯手博通造芯:明年量產自研 AI 晶片,僅供自用

    據英國《金融時報》報道,OpenAI 正與博通合作研發定製 AI 晶片,計劃明年開始內部量產。博通剛剛公佈了一筆 100 億美元的神秘晶片訂單,業內普遍推測買家正是 OpenAI。這意味著 OpenAI 正效仿 Google 和亞馬遜,通過自研晶片削減成本並擺脫對輝達的依賴。