Altman 談 AI 風險:擔心的不是殺手機器人,而是「微妙的社會失調」
OpenAI CEO Sam Altman 在世界政府峰會上表示,最讓他擔憂的不是殺手機器人,而是無意間引發混亂的「微妙社會失調」。他重申應建立類似國際原子能機構的組織來監管 AI,並表示行業本身不該主導規則制定,現在的 AI 還處於「黑白屏手機」的起步階段。
OpenAI CEO Sam Altman 在世界政府峰會上表示,最讓他擔憂的不是殺手機器人,而是無意間引發混亂的「微妙社會失調」。他重申應建立類似國際原子能機構的組織來監管 AI,並表示行業本身不該主導規則制定,現在的 AI 還處於「黑白屏手機」的起步階段。
數十名抗議者在 OpenAI 舊金山總部外集會,要求停止研發 AGI 並敦促工程師離職。抗議直接針對 OpenAI 此前修改條款並與五角大樓接洽軍用合作。組織者呼籲對前沿模型引入外部監管,認為僅靠企業自律無法約束技術失控與生存風險。
據《華爾街日報》報道,OpenAI CEO Sam Altman 正在洽談籌集 5 萬億至 7 萬億美元,用於重構全球半導體與算力基礎設施。Altman 認為晶片供應不足制約了 AI 擴張,希望藉此打破輝達的壟斷局面。不過這筆天文數字般的募資規模在落地上面臨極大現實阻力。
據 The Information 報道,OpenAI 正在開發一種能夠直接接管並操控使用者裝置的自主 AI 智慧體系統。它不再只是生成文本,而是能像人一樣點選、打字或跨平臺遷移資料。不過,將裝置操作權交給雲端 AI,也引發了對隱私與安全的擔憂。
OpenAI 組建專門的兒童安全團隊並公開招聘執行專家,重點研究如何防範生成式 AI 工具被未成年人濫用。該團隊將協同法務、平臺政策等部門,專門負責涉未成年人的內容稽核與突發事件處理。
一份創作者指南梳理了防止作品被 AI 訓練的方法。創作者除向 OpenAI、Meta 等申請排除後續訓練外,還可藉助 Glaze 與 Nightshade 進行畫素偽裝或投毒。由於官方退出流程繁瑣且不追溯舊資料,技術加噪成了畫師主動維權的實用屏障。
初創公司 Abacus AI 公佈基於通義千問 Qwen-72B 微調的模型 Smaug-72B。它是首個在 Hugging Face 開源排行榜上綜合均分破 80 的模型,在多個基準測試中超過了 GPT-3.5 和 Mistral Medium。團隊針對推理和數學能力做了專項微調,模型現已完全開源。
OpenAI 詳細公佈了多模態生成內容的防偽溯源方案。團隊在影像和音訊中嵌入 SynthID 隱形水印,在歐盟文本中啟用 textGrain,同時結合 C2PA 後設資料。最值得關注的是,這種雙重標記大幅提升了抗裁剪能力,使用者還能直接在網頁端檢測檔案來源。
Meta 宣佈將在 Facebook、Instagram 和 Threads 上標出 AI 生成影像。除了自家的 Meta AI,還將通過 C2PA 和 IPTC 標準識別 OpenAI、Google、Midjourney 等外部工具製作的圖片。對 AI 影片和音訊,Meta 要求使用者主動申報,違者或受懲罰。
Semafor 宣佈與微軟合作,藉助微軟及 OpenAI 工具打造多信源快訊流「Signals」。該欄目每天更新約 12 次,AI 僅作為輔助研究工具,稿件由人類記者撰寫。微軟藉此拉攏媒體,與此前被《紐約時報》起訴形成反差。
宜家在 OpenAI GPT Store 上線官方 AI 助手。使用者只要輸入戶型大小、預算和風格偏好,AI 就能從數千款產品中推薦傢俱搭配並查詢本地庫存。目前該助手僅面向美國地區的 GPT Plus 使用者開放,計劃年內推廣至更多市場。
Hugging Face 宣佈推出 Hugging Chat Assistants,允許使用者點選兩次即可免費建立專屬 AI 助手。相比 OpenAI 每月 20 美元的 GPTs,該功能完全免費,並支援在 Llama 2、Mixtral 等開源模型間自由切換。不過目前它暫不支援聯網搜尋和 RAG 功能。
據報道,Microsoft 與 OpenAI 正洽談向人形機器人初創公司 Figure AI 投資至多 5 億美元。其中 Microsoft 擬出資約 9500 萬美元,OpenAI 擬投 500 萬美元,投前估值或達 19 億美元。Figure AI 正在研發人形機器人 Figure 01,融資金額與細節仍可能變動。
OpenAI 面向 ChatGPT 付費使用者推出新功能,在對話方塊輸入「@」就能直接拉入各類自定義 GPT。被選中的 GPT 會繼承當前對話的完整上下文,方便按需切換專業工具。這一舉措旨在為 GPT Store 導流,目前自定義 GPT 僅佔其網頁端流量約 2.7%。
The New York Times 宣佈組建專門團隊探索在編輯部應用生成式 AI。該團隊由 AI 倡議負責人 Zach Seward 帶領,計劃招募工程師、設計師與編輯,以「臭鼬工坊」模式打造報道原型。紐時同時重申,新聞仍將完全由人類記者採寫與編輯。
The Browser Company 推出 iOS 應用 Arc Search,主打「Browse for me」功能。輸入問題後,AI 會自動抓取並閱讀多個相關網頁,直接排版生成一個資訊齊全的專屬頁面,不再給出一堆搜尋連結。底層結合了 OpenAI 等模型,不過信源引用仍有待完善。
OpenAI 推出兩款新嵌入模型 text-embedding-3-small 與 large,支援靈活縮短維度以降低儲存成本,小模型價格降至上一代的五分之一。同時,GPT-3.5 Turbo 輸入價格降低 50%,更新版 GPT-4 Turbo 預覽版也上線並改善了程式碼生成偷懶問題。
據彭博社等媒體報道,OpenAI CEO Sam Altman 正在與軟銀、阿布扎比 G42 等機構接洽,計劃籌集約 1000 億美元在全球自建 AI 晶片製造廠。該專案代號為 Tigris,意在打通從晶片設計到製造的全流程,緩解算力短缺並擺脫對輝達的依賴。
週四,OpenAI 宣佈與亞利桑那州立大學達成首個高等教育合作。從 2 月起,全校將全面接入 ChatGPT Enterprise,用於個性化輔導與科研。最關鍵的是,雙方承諾校園輸入資料不會用於模型訓練,打消隱私與學術顧慮。
OpenAI CEO Sam Altman 在達沃斯接受採訪時表示,未來的 AI 必須允許高度的個人定製,會依據使用者不同的價值觀給出不同回答,而這會讓許多人感到不適。他同時透露目前頭等大事是推出新模型 GPT-5。