OpenAI 棄坑 Arrakis:取名自《沙丘》的低成本模型因效率未達標夭折
據 The Information 報道,OpenAI 在今年早些時候叫停了代號為 Arrakis 的模型專案。該專案原本與 GPT-4 並行開發,旨在大幅壓低 ChatGPT 的推理成本,但最終因效率未能達標被砍,讓合作伙伴微軟的部分高管大失所望。
據 The Information 報道,OpenAI 在今年早些時候叫停了代號為 Arrakis 的模型專案。該專案原本與 GPT-4 並行開發,旨在大幅壓低 ChatGPT 的推理成本,但最終因效率未能達標被砍,讓合作伙伴微軟的部分高管大失所望。
在百度北京舉辦的「Prompt the World」大會上,李彥宏正式推出文心大模型 4.0。他表示該模型在理解、生成、邏輯和記憶四大核心能力上全面升級,綜合水平不遜於 GPT-4。百度已將其接入搜尋、文庫和地圖等產品,不過資本市場反響偏謹慎,釋出當日股價微跌。
據《金融時報》報道,SEC 主席 Gary Gensler 警告,AI 在十年內引發金融崩盤幾乎不可避免。他指出,若華爾街機構普遍依賴同一套底層基礎模型或資料來源,將帶來橫向系統性風險,而現行針對單一機構的監管很難防範這種單點故障。
Portkey 監測資料顯示,GPT-4 響應延遲過去三個月穩步下降,速度正逼近 GPT-3.5。在第 99 百分位的高延遲請求中,耗時縮減超一半;中位數請求的每 token 耗時已低於 1 毫秒。雖然依舊更貴,但對大多數請求來說它已不再慢。
據路透社報道,OpenAI 計劃在 11 月 6 日的首屆開發者大會上推出重大更新,包括支援對話記憶的「有狀態 API」,理論上可將呼叫成本降低高達 20 倍。此外,官方還計劃向開發者開放影像分析的視覺 API,加速智慧體生態落地。
據路透社報道,OpenAI 正探索自研 AI 晶片以緩解算力短缺,方案包括自主設計或收購晶片製造商。CEO Sam Altman 已將獲取晶片列為頭等大事。此舉旨在降低高昂運營成本,但晶片研發極耗資金且週期長,面臨不小風險。
OpenAI 宣佈為 ChatGPT 推出語音和影像能力。使用者可以直接拍照讓它分析內容或答疑,還能用 5 種聲音與它即時雙向語音對話。該功能在未來兩週內向 Plus 和 Enterprise 使用者陸續開放,移動端和桌面端均有適配。
OpenAI 宣佈成立紅隊網路,面向全球招募外部專家參與模型安全與對抗測試。成員將按專案獲得報酬,每年投入可低至 5 到 10 小時。這意味著 OpenAI 正在將過去模型釋出前的一次性審查,轉變為持續、常態化的跨領域協同防禦。
據 The Information 報道,OpenAI 正加速為 GPT-4 全面引入視覺多模態能力(GPT-Vision),並籌備代號為 Gobi 的下一代模型。這套看圖寫程式碼的能力此前僅向少數機構內測,OpenAI 試圖搶在 Google 今秋釋出 Gemini 之前落地,繼續穩坐領頭羊位置。
美聯社報道披露,微軟與 OpenAI 在愛荷華州為訓練 GPT-4 抽取了大量河水為超算降溫。微軟 2022 年全球用水量激增 34%,外部研究測算向 ChatGPT 提問 5 至 50 次就要消耗約 500 毫升水。這讓生成式 AI 背後高昂的水資源代價浮出水面。
Similarweb 資料顯示,ChatGPT 全球網站訪問量 8 月連續第三個月下滑,平均停留時間縮短至 7 分鐘。不過相比 6、7 月約 10% 的跌幅,8 月降幅已放緩至 3%。分析指出夏季學生放假導致了流量滑坡,隨著開學已開始企穩。
《時代》週刊刊發馬斯克傳記節選,披露其在 2018 年離開前曾試圖說服 Sam Altman 將 OpenAI 併入特斯拉。OpenAI 團隊拒絕後,Altman 接任總裁併成立營利分支引入微軟投資;自認被甩出 AI 賽道的馬斯克則於 7 月創辦 xAI 另起爐灶。
OpenAI 釋出面向教師的 ChatGPT 課堂教學指南,附帶實用提示詞,並詳解其原理、侷限性及 AI 檢測器的有效性。指南分享了角色扮演、出題測驗與輔助外語學習等案例。OpenAI 提醒,模型回答未必完全準確,仍需由教師親自把關。
SemiAnalysis 發文指出,Google 正全力加速 Gemini,其預訓練算力預計年底達 GPT-4 的 5 倍,明年可達 20 倍。報告劃分了「算力富人」與「算力窮人」,直言中小團隊正陷入低算力內捲,而手握 TPUv5 的 Google 是抗衡輝達算力壟斷的關鍵變數。
據 The Decoder 報道,OpenAI 工程師 Jason Wei 透露聽聞 Meta 已備齊算力訓練 Llama 3 與 4,且計劃讓 Llama 3 追趕 GPT-4 水平並繼續免費開放。這意味著開源社群有望迎來抗衡閉源頂級模型的基座,不過 Meta 官方尚未對此表態。
OpenAI 提出用 GPT-4 輔助內容稽核的新方案。稽核專家把規則寫進提示詞讓模型打標籤,再通過比對分歧快速調整策略。OpenAI 稱該流程已在部分客戶中落地,能將新規生效時間縮減至數小時,不過仍需人工持續介入校準。
蒙大拿大學團隊公佈測試結果,搭載 GPT-4 的 ChatGPT 在權威創造力測驗 TTCT 中,流暢度與原創性均位列前 1%,靈活性達前 3%。盲審機構未察覺其為 AI,表明大模型在發散思維上已能媲美甚至超越大部分人類。
據外媒報道,Analytics India Magazine 指出 OpenAI 運營 ChatGPT 每天耗費約 70 萬美元,因變現困難且使用者流失,可能在 2024 年底面臨破產風險。即便有微軟注資支撐,持續擴大的虧損與開源模型的競爭依然給其盈利帶來嚴峻考驗。
據報道,OpenAI 正式推出網路爬蟲 GPTBot,用於抓取公開網頁資料以訓練和最佳化未來模型。GPTBot 會自動過濾付費牆、個人隱私資訊及違規內容;網站管理員若不想被抓取,可在伺服器標準檔案中新增 disallow 指令直接遮蔽。
Microsoft 宣佈配備 NVIDIA H100 的 Azure ND H100 v5 虛擬機器正式可用,並同步將 Azure OpenAI Service 擴充套件至日本東部、英國南部等 5 個新區域。該機型搭載 8 張 H100,FP8 矩陣運算速度提升最高達 6 倍。隨著企業客戶破 1.1 萬家,微軟正全線擴容底層算力。