AI 教父 Hinton 敲警鐘:我不信「好 AI」一定能壓制「壞 AI」
在多倫多 Collision 大會上,「AI 教父」Geoffrey Hinton 表示,他不認為試圖制止壞 AI 的好 AI 能掌握控制權。軍工造殺人機器人、大模型拉大貧富差距都是現實威脅。雖然業內 DeepMind 和 Roblox 等高管態度樂觀,但 Hinton 強調人類必須付出巨大代價來應對失控風險。
在多倫多 Collision 大會上,「AI 教父」Geoffrey Hinton 表示,他不認為試圖制止壞 AI 的好 AI 能掌握控制權。軍工造殺人機器人、大模型拉大貧富差距都是現實威脅。雖然業內 DeepMind 和 Roblox 等高管態度樂觀,但 Hinton 強調人類必須付出巨大代價來應對失控風險。
6 月底,多位獨立開發者透露 Valve 開始在 Steam 上拒審含 AI 生成素材的遊戲。Valve 在駁回信中表示,除非開發者能證明自己擁有 AI 訓練集所用全部 IP 的版權,否則因法律所有權不明確無法發行。目前官方指南尚未正式更新該規則。
週三,一家加州律所在聯邦法院對 OpenAI 發起集體訴訟。訴狀指控 OpenAI 大規模抓取網際網路公開資料訓練 ChatGPT,侵犯了海量網民的版權和隱私,並以此謀取商業利益。原告方希望法院對 AI 訓練設立合規防線,併為被使用資料的人爭取補償。
OpenAI 宣佈在 iOS 和 Android 移動端上線「Browse with Bing」聯網功能,面向 Plus 訂閱使用者開放。開啟後模型能通過 Bing 檢索突破 2021 年知識庫限制獲取最新時事。不過搜尋入口被完全繫結在 Bing,使用者暫時無法選擇其他搜尋引擎。
週二,百度釋出大模型 ERNIE 3.5。測試顯示該模型在中文等基準測試中超過 ChatGPT 與 GPT 4,並在推理和程式碼能力上全面提升。新版本還支援外掛功能,已整合百度搜索。不過在由美國大學開發的綜合測試中,其成績仍有差距。
The Verge 聯合 Vox Media 釋出對 2000 多名美國成年人的調查結果。資料顯示僅三分之一受訪者試用過專用 AI 工具,使用場景以問答和頭腦風暴為主。最值得關注的是,76% 的人支援立法監管 AI 開發,大眾對這項技術既充滿期待又深感擔憂。
Google DeepMind CEO Demis Hassabis 透露,團隊正在研發下一代大模型 Gemini。該模型將結合 AlphaGo 擅長的強化學習與樹搜尋技術,賦予 AI 規劃和解決複雜問題的能力,研發成本或達數千萬至上億美元,目標直指超越 ChatGPT 及其背後的 GPT-4。
網路安全公司 Group-IB 報告稱暗網出現超 10 萬個 ChatGPT 賬號憑據。OpenAI 隨後回應表示,這並非平臺自身被攻破,而是使用者裝置感染了竊密木馬所致。由於系統預設保留聊天記錄,一旦憑據洩露,商業機密和私密程式碼可能直接曝光。
EPFL 研究發現,Amazon Mechanical Turk 上 33% 到 46% 的零工標註員正使用 ChatGPT 代工完成標註。這種用 AI 生成資料再訓 AI 的做法可能放大錯誤與幻覺,且極難追溯。目前行業仍缺乏區分人機標註的有效手段。
導演克里斯多福·諾蘭接受 WIRED 專訪時表示,AI 最大的危險是人們賦予它神一樣的屬性、藉此逃避自身責任。他直言科技巨頭主動呼籲監管只是老套的推責伎倆,研發者不能指望根本搞不懂技術的政客來替自己兜底。
Mercedes-Benz 宣佈在美國啟動測試,通過 Microsoft Azure OpenAI Service 將 ChatGPT 接入 MBUX 語音系統。除了開關車窗和導航,它還能自然對答應答、推薦菜譜或介紹沿途景點。對話資料會經官方雲端脫敏儲存。
在德國新教大會期間,一場由 ChatGPT 主導的禮拜吸引了 300 多人到場。長達 40 分鐘的佈道詞、禱告和音樂有 98% 由 AI 生成,螢幕上的虛擬人負責唸誦。現場信徒反應兩極,有人覺得流暢,也有人抱怨面無表情、缺少靈魂。
OpenAI 釋出 ChatGPT iOS 應用重大更新,正式帶來原生 iPad 介面與分屏拖拽支援。新版還打通了 Siri 與快捷指令,使用者可以把常用 Prompt 做成自動化流,或用語音直接喚出 ChatGPT 處理任務。
堪薩斯大學團隊訓練出一種機器學習演算法,專門識別 ChatGPT 撰寫的學術論文,整篇識別準確率達 100%,段落級達 92%。它主要通過詞彙豐富度、段落長度和標點差異來判別。不過測試樣本量較小,對人類微調過的文本識別能力仍存疑。
OpenAI 遭遇首起針對 ChatGPT 生成虛假資訊的誹謗訴訟。喬治亞州一名電臺主持人起訴稱,ChatGPT 在總結案件時憑空捏造其貪汙逾 500 萬美元。這起訴訟將檢驗 AI 捏造虛假資訊是否適用於平臺免責保護。
Apple CEO Tim Cook 在採訪中透露自己平時也在用 ChatGPT,並表示蘋果正密切關注該技術。他指出大語言模型很有前景,但也存在偏見與虛假資訊等隱患;由於技術演進太快讓法律監管很難跟上,AI 公司自身必須承擔起倫理自律的責任。
Snapchat 面向 Snapchat+ 訂閱使用者推出 My AI Snaps 功能。使用者像給好友發 Snap 一樣發照片給 My AI,就能收到 AI 生成的圖片回覆,底層接入了 ChatGPT 與 GPT-4。不過目前它對相簿照片的理解有限,且僅支援移動端。
Instacart 推出由 ChatGPT 支援的搜尋工具「Ask Instacart」。使用者可以直接在搜尋框詢問配菜建議、替代食材或飲食禁忌,系統會結合歷史偏好直接推薦商品,即日起向美加使用者逐步開放。
紐約一名律師在訴訟中藉助 ChatGPT 查詢判例,因大模型嚴重幻覺引用了 6 起憑空捏造的案件。在法官要求提供判決書時,他竟再次用 ChatGPT 編造全文並截圖提交。目前聯邦法官已下達命令,涉事律師面臨違規制裁聽證。
OpenAI CEO Sam Altman 週三在倫敦表示,若無法滿足歐盟《人工智慧法案》的要求,公司可能會停止在歐盟運營。他質疑將 ChatGPT 等大模型列為「高風險」的做法,強調會盡力配合但存在技術極限。