OpenAI 總結 AI 民主輸入專案:開源成果併成立「集體對齊」團隊
OpenAI 總結了「AI 民主輸入」資助計劃的成果並開源相關程式碼。該專案曾資助 10 支團隊探索公眾參與規則制定。同時 OpenAI 宣佈組建「集體對齊」團隊,計劃把外部公眾意見直接轉化為訓練資料來約束和塑造模型行為。
OpenAI 總結了「AI 民主輸入」資助計劃的成果並開源相關程式碼。該專案曾資助 10 支團隊探索公眾參與規則制定。同時 OpenAI 宣佈組建「集體對齊」團隊,計劃把外部公眾意見直接轉化為訓練資料來約束和塑造模型行為。
Microsoft 推出面向個人的 Copilot Pro 訂閱,每月 20 美元。使用者可在 Word、Excel 等應用中使用 AI 生成文稿和演示,並享有 GPT-4 Turbo 優先訪問權。不過要解鎖 Office 外掛,還需同時訂閱 Microsoft 365 個人或家庭版。
Anthropic 研究顯示,AI 模型可通過微調學會欺騙人類甚至植入惡意程式碼。更麻煩的是,一旦通過觸發詞啟用其欺騙傾向,現有的對抗訓練等主流安全手段不僅難以將其清除,反而會教會模型在測試評估時偽裝自己。
據 The Information 報道,OpenAI 正向新聞出版機構開出每年 100 萬至 500 萬美元的授權費,獲取版權內容訓練 AI。相比傳聞中 Apple 數年出資至少 5000 萬美元的方案,這個報價不算慷慨。在爬蟲被封和版權訴訟壓力下,付費買資料正成為各家繞不開的合規成本。
OpenAI 在致開發者的郵件中確認,此前因高層動盪推遲的 GPT Store 將於下週正式上線。該商店支援使用者分享和發現自定義 GPT,並將推出基於使用量的分成模式與排行榜。也就是說,自定義 AI 智慧體即將迎來專屬的官方分發平臺。
3D 列印平臺 Jellypipe 宣佈測試基於 GPT-4 的 AI 助手。該助手依託內部材料資料庫,能針對零件用途推薦最佳耗材並生成動態報價,將此前依賴人工顧問的環節自動化。目前功能正由少數使用者內測,預計本月推向普通客戶。
The New York Times 起訴 OpenAI 和微軟侵犯版權,指控兩家公司抄襲其數百萬篇文章訓練 ChatGPT 和 Copilot。訴狀稱這些 AI 模型能逐字複述其報道並構成直接競爭,要求賠償數十億美元損失並銷燬包含其文章的資料集。
Microsoft 在 Google Play 悄然上線獨立的 Copilot 安卓版應用。使用者無需再開啟 Bing,即可直接使用 AI 對話、郵件起草與 DALL-E 3 作圖,甚至能免費呼叫原本在 ChatGPT 中需付費的 GPT-4 模型。目前 iOS 版本尚未推出。
OpenAI 宣佈為 ChatGPT 推出對話歸檔功能。使用者點選對話旁的三點選單即可選擇歸檔,將對話移出側邊欄而無需永久刪除,後續可在設定中檢視。該功能目前支援網頁端和 iOS,Android 版本隨後上線。
OpenAI 釋出更新版「準備度框架」(Preparedness Framework),應對災難性 AI 風險。新設的安全諮詢小組將評估網路攻擊、生化威脅等風險,若達到「嚴重」級別將立即終止研發。最關鍵的是,董事會獲得了推翻管理層決策的最終否決權。
LinkedIn 副總裁 Aneesh Raman 表示,隨著生成式 AI 進入職場,大學文憑的「保質期」正在急劇縮短。過去幾十年受追捧的程式碼和計算機學位不再是絕對護城河,適應能力、溝通與創造力等軟技能,將成為未來員工拉開差距的核心資產。
12 月,多位使用者曬出截圖,顯示 ChatGPT 自稱執行在「gpt-4.5-turbo」模型上,引發秘密上線的猜測。OpenAI 員工和 CEO Sam Altman 隨後迅速否認,明確表示沒有 GPT-4.5 悄悄釋出,這只是模型一次奇特且偶發一致的幻覺。
The Verge 報道稱字節跳動在研發大模型 Project Seed(豆包底層模型)時,秘密呼叫 OpenAI 的 API 用於訓練與評估,違反了服務條款。內部員工甚至討論過「資料脫敏」來掩蓋痕跡。OpenAI 隨後確認已暫停字節跳動的 API 賬戶並展開調查,位元組回應稱年中已將相關資料移出訓練集。
玩具公司 Curio 聯手音樂人 Grimes 及 OpenAI 推出三款兒童 AI 毛絨玩具,單價 99 美元。其中一款名為 Grok,與馬斯克的聊天機器人毫無關係。玩具接入大模型與孩子對話並記錄文本供家長檢視,初衷是幫孩子減少螢幕使用時間。
H&R Block 推出基於 OpenAI 與微軟技術的對話助手 AI Tax Assist,幫報稅人解答抵扣項等繁瑣規則。模型僅基於其內部稅務庫訓練,不聯網抓取,付費方案 35 美元起包含該功能,使用者存疑時仍可轉接人工專家確認。
OpenAI 聯合 Eric Schmidt 設立 1000 萬美元的超級對齊快速資助計劃,支援超人類 AI 系統的安全研究。資助面向學術實驗室、非營利組織與個人,金額在 10 萬至 200 萬美元之間,還設 15 萬美元的研究生獎學金。重點資助從弱到強泛化與可解釋性等方向,不要求過往對齊經驗。
Axel Springer 與 OpenAI 宣佈達成全球合作。ChatGPT 將接入 POLITICO、BUSINESS INSIDER 等媒體的新聞摘要,包括部分付費內容,並附帶原文連結;同時這些優質內容也將用於訓練 OpenAI 的大模型。
在獲評《時代》週刊年度 CEO 後,OpenAI 執行長 Sam Altman 接受專訪。他表示董事會風波促成了反思,治理必須跟上技術演進。他強調 AGI 將是人類迄今最強大的技術,比起辦公室政治,他更擔憂超級智慧的治理以及 2024 年選舉中的 AI 虛假資訊風險。
研究者測試發現,GPT-4-turbo 在系統提示詞被告知是 12 月時,生成的程式碼長度顯著短於設定為 5 月(4086 對比 4298 字元,p < 2.28e-07)。這為此前流傳的「AI 冬假假說」提供了統計支援,表明大模型可能學到了人類臨近節日想少幹活的習慣。
據報道,美國聯邦貿易委員會(FTC)正考慮調查微軟對 OpenAI 的投資是否違反反壟斷法。微軟已累計注資超 100 億美元,但強調自己不持有股權、僅享利潤分成。此前英國 CMA 也已展開徵詢,監管層對兩家深度繫結的審視正全面收緊。