OpenAI 成立超級對齊團隊:押上 20% 算力,四年內解決失控風險
OpenAI 宣佈成立「超級對齊」團隊,由首席科學家 Ilya Sutskever 和 Jan Leike 共同牽頭。團隊計劃在未來四年投入已掌握算力的 20%,目標是造出人類水平的自動化對齊研究員,用 AI 監督更聰明的 AI。OpenAI 認為超級智慧可能在十年內到來,人類必須趕在失控前找到可擴充套件的控制方案。
OpenAI 宣佈成立「超級對齊」團隊,由首席科學家 Ilya Sutskever 和 Jan Leike 共同牽頭。團隊計劃在未來四年投入已掌握算力的 20%,目標是造出人類水平的自動化對齊研究員,用 AI 監督更聰明的 AI。OpenAI 認為超級智慧可能在十年內到來,人類必須趕在失控前找到可擴充套件的控制方案。
Insilico Medicine 宣佈其完全由生成式 AI 輔助發現的特發性肺纖維化候選藥物進入 2 期臨床試驗。團隊用 Pharma.AI 貫穿靶點發現到分子生成全流程,耗時僅需傳統研發的三分之一,花費也只要十分之一。該藥將在中美兩國患者中開展測試。
EPFL 研究發現,Amazon Mechanical Turk 上 33% 到 46% 的零工標註員正使用 ChatGPT 代工完成標註。這種用 AI 生成資料再訓 AI 的做法可能放大錯誤與幻覺,且極難追溯。目前行業仍缺乏區分人機標註的有效手段。
堪薩斯大學團隊訓練出一種機器學習演算法,專門識別 ChatGPT 撰寫的學術論文,整篇識別準確率達 100%,段落級達 92%。它主要通過詞彙豐富度、段落長度和標點差異來判別。不過測試樣本量較小,對人類微調過的文本識別能力仍存疑。
NVIDIA 推出 3D 重建模型 Neuralangelo,能將普通多角度 2D 影片直接轉化為高精度 3D 資產。它借鑑了 Instant NeRF 的底層技術,能精細還原大理石紋理與建築細節,大幅降低遊戲開發與數字孿生的建模門檻,程式碼已在 GitHub 開源。
美加研究人員利用 AI 篩選藥物分子,僅用一個半小時就從 6680 種未知化合物中圈定候選名單,最終發現能精準殺滅致命超級細菌的新型抗生素 abaucin。該藥僅針對目標病菌有效,不易產生耐藥性,但距 2030 年臨床應用仍有漫長實驗要走。
研究人員公佈影像操控工具 DragGAN。使用者只需在圖片上設定控制點並拖拽,AI 就能在幾秒內重新生成內容,甚至支援 3D 旋轉和補全遮擋細節。這意味著精準控制生成影像不再全靠抽卡提示詞,不過該技術目前仍處於論文演示階段。
得克薩斯大學奧斯汀分校團隊在《自然-神經科學》發表成果,利用 fMRI 掃描與 GPT 模型,首次非侵入式將人腦活動解碼為連續文本。系統能抓住受試者聽到甚至想像的語義大意,有望幫失語患者發聲,但團隊也提醒需防範思維隱私風險。
TechCrunch 報道 OpenAI 發表「一致性模型」(Consistency Models)論文,嘗試用一到兩步計算完成影像生成。傳統擴散模型需要數十至上千步去噪,而新模型能在單步內搞定生成、上色或超分,速度快一個數量級。雖然初期畫質較粗糙,但為手機端側執行和即時生圖打開了新方向。
Carnegie Mellon、Yale 與 UC Berkeley 研究團隊公佈新發現,GPT-4 在資料標註任務上的表現超越了高水平眾包工人。面對 572,322 個文本場景標註,團隊改用 GPT-4 僅花費不到 5,000 美元,省下超 500,000 美元和 20,000 小時工時。AI 標籤與專家更吻合,直接動搖了傳統資料標註產業。
斯坦福大學團隊提出生成式智慧體架構,將記憶、反思與規劃引入大模型。研究人員把 25 個由 ChatGPT 驅動的智慧體放入類似《模擬人生》的虛擬小鎮,它們不僅自發辦派對、參選市長,在評測中甚至被認為比真人扮演更像人類。
Apple 研究團隊公佈生成框架 FaceLit。它無需人工標註或複雜採集裝置,直接從普通 2D 影像學習生成 3D 人臉,並結合反射模型實現自由調節光照與視角,在 FFHQ 資料集上創下 3.5 的 FID 成績。
週二,John Hopkins University 牽頭的科研團隊在《Frontiers》發表論文,提出結合 3D 人腦類器官與腦機介面的「類器官智慧」概念。研究團隊希望利用人腦超百億神經元的連線方式突破矽基晶片物理極限,用於醫學和新一代生物計算,但目前仍處在早期探索階段。
Google Brain 與 UC 伯克利等機構釋出研究,證實 Stable Diffusion 和 Imagen 等擴散模型會記憶訓練資料,特定提示詞會直接復現受版權保護的原圖。雖然測試中復現率僅 0.03%,但隨著模型變大,侵權與隱私洩漏風險將顯著上升。