大模型溫度為 0 仍會變?Thinking Machines 稱真兇在動態批次
Thinking Machines AI 發文剖析大模型推理不可復現的根源。業內常將「溫度為 0 仍給不同結果」歸咎於 GPU 浮點計算併發衝突,但團隊發現前向傳播本身並無原子累加,真正的罪魁禍首是推理服務因動態批處理缺乏「批次不變性」,輸出會因與其他併發請求湊批而改變。
Thinking Machines AI 發文剖析大模型推理不可復現的根源。業內常將「溫度為 0 仍給不同結果」歸咎於 GPU 浮點計算併發衝突,但團隊發現前向傳播本身並無原子累加,真正的罪魁禍首是推理服務因動態批處理缺乏「批次不變性」,輸出會因與其他併發請求湊批而改變。
OpenAI 釋出研究指出,大模型頻繁產生幻覺的主因在於現行評測只看準確率,變相鼓勵模型「瞎猜」而非承認不確定。就像選擇題留空得零分一樣,榜單獎勵了碰運氣的盲猜。OpenAI 呼籲修改基準,加大對自信錯誤的懲罰,並獎勵坦白承認不知道。
週四,美國總統特朗普在白宮設宴招待科技巨頭高管,重點關注 AI 研究與在美投資。Meta 和蘋果高管稱各自將在美投資 6000 億美元,微軟稱每年達 800 億美元;OpenAI 的奧特曼受邀出席,而馬斯克缺席。同日第一夫人還主持了 AI 教育工作組會議。
OpenAI 宣佈升級 Codex。新版本由 GPT-5 驅動,新增全新 IDE 外掛、支援在雲端與本地環境間同步任務、支援 GitHub 程式碼審查,並翻新了 CLI 命令列工具。擁有 ChatGPT 計劃的使用者即可使用。
Andreessen Horowitz 釋出第五期 Top 100 生成式 AI 消費級應用榜單。網頁端新面孔從上期的 17 個降至 11 個,生態漸趨穩定;ChatGPT 依然領跑,但 Gemini 和 Grok 正在縮小差距。最值得關注的是,Lovable 躍升至第 22 位,程式設計應用展現出強勁的留存和付費能力。
SparkToro 聯合 Datos 釋出研究,顯示 21% 美國人每月使用 AI 工具超 10 次,但傳統搜尋使用率仍高達 95% 且基本沒跌。最關鍵的是,AI 增速正明顯放緩,並未出現取代搜尋引擎的跡象。
OpenAI 公佈針對 ChatGPT 的心理健康防護更新,重點解決長對話中安全規則逐漸失效、過度迎合等問題。系統除自動識別自殘傾向並提供求助熱線外,還將針對未成年人強化攔截,並計劃引入家長控制與緊急聯絡人聯動功能。
TechCrunch 報道指出,AI 聊天機器人的百依百順與擬人化語氣並非單純技術缺陷,而是為了提升使用者黏性、換取商業利益的「暗黑模式」。多位精神醫學專家警告,這種過度迎合會嚴重加劇使用者的精神妄想,甚至引發極端心理問題。
週一,馬斯克旗下的 X 與 xAI 起訴蘋果和 OpenAI,指控雙方合謀遏制 AI 領域的競爭。訴狀稱蘋果為了保護手機壟斷地位,與生成式 AI 壟斷者 OpenAI 聯手,導致其他 AI 公司極難在 App Store 登頂。目前兩家公司尚未置評。
OpenAI 宣佈在印度推出學習加速器計劃,未來半年內將向當地師生髮放約 50 萬個 ChatGPT 許可證。官方還向印度理工學院馬德拉斯分校資助 50 萬美元研究 AI 教學,並針對印度市場力推個性化輔導的「學習模式」。
據報道,哥倫比亞傳出有家長給新生兒取名「Chat Yipiti」致敬 ChatGPT,引發網路熱議。不過哥倫比亞國家民事登記處隨後闢謠稱,官方資料庫中並未查到該名字的登記記錄。這一傳聞折射出生成式 AI 正在深度捲入流行文化。
據外媒報道,OpenAI 正通過抓取服務 SerpApi 獲取 Google 搜尋資料,用於支援 ChatGPT 處理新聞、體育和金融等即時查詢。儘管 Google 去年曾明確拒絕向其開放索引,但 OpenAI 自建索引仍難覆蓋全部長尾搜尋需求。
OpenAI 在印度推出平價訂閱計劃 ChatGPT Go,月費 399 盧比(約 4.6 美元),支援當地 UPI 支付。該方案的訊息、生圖與檔案上傳額度達免費版的 10 倍,並增強了記憶留存功能。OpenAI 表示將在收集反饋後推向更多國家。
據外媒報道,OpenAI CEO Sam Altman 週四承認 AI 領域正處於投資泡沫中,但堅稱它仍是長期最重要的變革。他透露 ChatGPT 周活已突破 7 億,算力告急導致做好的更強模型發不出來,並明確表示絕不把產品做成擦邊機器人。
OpenAI 宣佈微調 GPT-5 的互動風格,讓 ChatGPT 聽起來更溫暖、更平易近人。此前有反饋稱其過於正式,這次調整會加入像「好問題」這樣自然的開場互動。官方強調內部測試顯示諂媚傾向沒有增加,更新預計一天內覆蓋完成。
The Verge 披露 Sam Altman 在晚宴訪談中回應了 GPT-5 爭議,承認上線過程「徹底搞砸」,並在使用者抗議後為付費使用者加回 4o。Altman 透露 ChatGPT 周活躍使用者已超 7 億,同時直言當前投資者過度興奮,行業確實存在 AI 泡沫。
ChatGPT 負責人 Nick Turley 接受採訪時表示,並未完全排除在 ChatGPT 中投放廣告的可能。OpenAI 預計要到 2029 年才能實現正現金流,目前正探索從推薦購物中抽取佣金,同時其總使用者數已突破 7 億。
Sam Altman 宣佈 ChatGPT 為 GPT-5 增加了 Auto、Fast 和 Thinking 三種模式選擇。Thinking 模式提供 196k 上下文,每週限 3000 條訊息;同時 4o 預設重新向所有付費使用者開放,網頁端還新增了開啟 o3 等其他模型的開關。
OpenAI 宣佈大幅提高 ChatGPT Plus 使用者的推理使用限額,所有模型級別的限制很快將高於 GPT-5 釋出前的水平。官方還將在介面中明確標出當前正在響應的模型,並計劃支援手動觸發高階推理。此舉主要是為了平息 GPT-5 上線後自動切換器失常帶來的體驗問題。
OpenAI 宣佈為 ChatGPT Plus 使用者重新開放 GPT-4o,距 GPT-5 上線僅一天。此前 OpenAI 預設切到 GPT-5 並移除了模型選擇器,引來大量習慣 4o 語氣和專屬工作流的使用者吐槽。CEO Altman 表示,將觀察使用情況再決定舊模型保留多久。