跳到正文
IFAI

產業動態

Meta 解散負責任 AI 團隊:成員轉入生成式 AI 部門

首次發布 傳播指數 42

據 The Information 報道,Meta 已拆散其「負責任 AI」(RAI)團隊,多數成員轉入生成式 AI 產品組,其餘人轉向基礎設施。Meta 回應稱此舉旨在支援產品開發,仍會重視安全。說白了,在大模型競賽壓力下,大廠的獨立倫理把關團隊正加速被一線業務收編。

Meta 解散負責任 AI 團隊:成員轉入生成式 AI 部門
圖:theverge.com

各大科技巨頭一邊在官網上大談「負責任的 AI」,一邊卻在悄悄撤掉盯著自家的安全員。

據 The Information 披露的一份內部帖子,Meta 已經正式解散了旗下的負責任 AI(Responsible AI,簡稱 RAI)團隊。大部分團隊成員將被直接併入生成式 AI 產品團隊,剩下的人則去支援 AI 基礎設施建設。

Meta 發言人 Nisha Deo 隨後向媒體證實了這次調整,並解釋說這是為了支援 AI 功能的開發。官方的說法是,雖然人員被打散分流,但他們依然會繼續跨團隊支援安全與負責任的 AI 研發。

早就淪為「空殼」的安全剎車片

其實這次解散並不算突發,更像是一場緩慢的安樂死。

RAI 團隊最早成立於 2019 年,初衷是找出模型訓練裡的毛病,比如訓練資料夠不夠多元、怎麼防止平臺內容稽核翻車。但在快節奏的產品上線壓力面前,這支團隊的處境一直很尷尬。

據 Business Insider 此前報道,該團隊今年早些時候就經歷過一輪大裁員,內部早就被削成了一個「空殼」。當時有知情人士透露,RAI 團隊幾乎沒有獨立自主權,提出的任何安全倡議,都得在內部經過極其漫長、痛苦的利益相關方談判才可能落地。

而 Meta 在 AI 安全上的翻車記錄並不光彩。從早期 Facebook 翻譯錯誤直接導致無辜者被警方誤捕,到 WhatsApp 貼紙生成器在特定提示詞下吐出帶偏見的畫面,再到 Instagram 演算法被曝推薦兒童性侵材料,安全漏洞始終沒斷過。

如今 Meta 選擇直接把這個專職剎車片拆掉,理由是要給生成式 AI 的研發全速讓路。

為什麼重要

這表明在激烈的生成式 AI 軍備競賽面前,大廠對 AI 倫理的態度正在發生實質性轉向。

Meta 給出的理由很動聽:把安全專家打散放到各個具體業務團隊裡,讓安全變成每個產品線的一部分。但我們認為,這種「去中心化」在實際操作中往往會演變成「人人有責,等於沒人負責」。以前有專門的獨立團隊唱反調,現在這些安全員直接歸產品老大管,考核指標變成了新功能能不能快點上線,誰還能硬氣地踩下剎車?

Meta 這麼做並不是個例。今年早些時候,微軟也裁撤了自家的道德與社會團隊。看起來,在追趕 OpenAI 的生死時速面前,大廠們都覺得獨立的倫理審查太礙事了。

問題是,這一步棋走得並不算聰明,甚至留下了巨大的隱患。眼下全球政府對 AI 監管正全面收緊,拜登政府剛頒佈了 AI 行政令,歐盟的 AI 法案也在推進中。在這個節骨眼上拆散安全團隊,一旦未來產品再次出現嚴重的演算法偏見或違法內容,Meta 很難再拿「我們有專人嚴密把關」來當擋箭牌了。

來源 (1)

  1. [1]
    theverge.com(在新分頁開啟)原文theverge.com

每日 AI 內容精選