跳到正文
IFAI

大模型

Meta 放寬 Llama 使用限制:破例向美國防及國安機構開放

首次發布 傳播指數 57

Meta 宣佈打破軍用禁令,向美國國防與國家安全機構及其承包商開放 Llama 模型。Oracle 已用其處理戰機維護文件,Lockheed Martin 則用它生成程式碼。這一例外政策也同步適用於英、加、澳、紐西蘭四國對應機構。

Meta 放寬 Llama 使用限制:破例向美國防及國安機構開放
圖:techcrunch.com

過去開源大模型總喜歡在協議裡寫上一條:嚴禁用於軍事與戰爭。

但這道紅線如今被親自畫上紅線的人擦掉了。11 月 4 日,Meta 正式宣佈向美國國家安全機構及其承包商開放 Llama 系列大模型,並允許將其用於國防任務。

聯手五眼聯盟防務巨頭

Meta 過去的使用政策明確規定,禁止將 Llama 用於任何與軍事、戰爭或間諜任務相關的專案。但根據 Meta 透露給彭博社的說法,這次政策破例不僅針對美國,同樣適用於英國、加拿大、澳大利亞和紐西蘭等「五眼聯盟」國家的類似政府機構及承包商。

為了把模型送進五角大樓,Meta 組建了一個規模龐大的企業聯盟,合作名單裡既有 Amazon Web Services、微軟、甲骨文、IBM 這樣的傳統雲巨頭,也有 Palantir、Anduril、洛克希德·馬丁(Lockheed Martin)這類核心防務巨頭,再加上 Scale AI、Databricks、Snowflake、德勤、埃森哲和 Leidos 等資料服務商。

這些承包商拿 Llama 去做的事各不相同。甲骨文正在用 Llama 處理飛機維修技術文件,以加快檢修流程;Scale AI 則在對模型進行微調,協助國家安全團隊執行任務規劃和威脅分析;洛克希德·馬丁直接把 Llama 嵌入到防務交付方案中,比如幫客戶自動生成程式碼。

開源被挪用的反向公關

這番動作的時機相當微妙。就在上週,路透社報道稱,有中國軍方的研究人員利用較早版本的 Llama 2 開發出了一套面向軍事應用的工具,包括一個用於收集情報、處理資料並輔助作戰決策的軍用聊天機器人。

Meta 當時回應稱,這種對單一過時模型的使用屬於「未經授權」,完全違反了使用協議。但這一事件迅速激化了外界對開源模型擴散風險的質疑。

面對「自家的開源技術正在資助競爭對手」的輿論壓力,Meta 乾脆把姿態徹底轉向,主張開源 AI 能夠加速西方防務研發,捍衛美國經濟與安全利益,併力求讓美國的大模型成為全球規則制定的基礎。

不過,軍用大模型的前路並非一帆風順。非營利機構 AI Now Institute 近期釋出研究警告,軍用 AI 依賴的個人資料極易被對手竊取並武器化,加上大模型天生的幻覺與偏見至今無法徹底根除,將商業模型直接挪到戰場風險巨大。在此之前,谷歌和微軟內部也屢次爆發員工抗議,反對公司接軍方訂單。而且即便軍方有興趣,目前美軍各軍種中真正落地生成式 AI 的也只有陸軍等極少數部門,決策層對實際投入產出比依舊存疑。

為什麼重要

我們認為,Meta 這一步棋走得極其老練,但同時也徹底打破了矽谷開源社群原有的道德邊界。

從公關和商業角度看,既然開源權重的特性決定了 Meta 根本管不住海外對手私下下載使用,那不如順水推舟,直接把 Llama 包裝成符合五角大樓利益的「國家利器」。拉上洛克希德·馬丁和 Palantir 這些深扎軍政體系的老牌玩家,Meta 可以藉機把開源模型深深織進西方公共部門的基礎設施,用事實標準擠壓閉源對手的生存空間。

但這裡的隱患也同樣刺眼。所謂「禁止軍用」的開源許可協議,在現實的國家利益面前看起來脆弱得像一張廢紙,說改就改的例外條款會讓科技公司的合規承諾大打折扣。更關鍵的是,大模型本身無法杜絕的幻覺Bug,如果真的在情報分析和武器協同中發生誤判,後果誰也無法承擔。對普通開發者和創業團隊來說,這一事件最清晰的訊號在於:AI 巨頭之間的競爭已經徹底脫離單純的學術與產品優劣,變成了大國地緣博弈最前端的數字兵工廠。

來源 (1)

  1. [1]
    techcrunch.com(在新分頁開啟)原文techcrunch.com

每日 AI 內容精選