跳到正文
IFAI

產業動態

OpenAI、Anthropic 與 Google 聯手:圍堵對抗性蒸餾複製模型

首次發布 傳播指數 53

據報道,OpenAI、Anthropic 與 Google 展開合作,共同防範對手利用「對抗性蒸餾」套取前沿模型輸出來提升自身系統。三家公司將通過 2023 年聯合創立的前沿模型論壇共享情報,協同監測違反服務條款的呼叫行為。

OpenAI、Anthropic 與 Google 聯手:圍堵對抗性蒸餾複製模型
圖:the-decoder.com

花幾十億美元訓練出一個頂尖大模型,轉頭卻被對手花極低成本「蒸餾」走能力,這種事正讓矽谷巨頭們徹底坐不住了。

據彭博社報道,OpenAI、Anthropic 和 Google 已經聯手,開始共同打擊中國競爭對手未授權複製 AI 模型的行為。

這三家平時爭得不可開交的公司,正在通過前沿模型論壇(Frontier Model Forum)共享情報。這個論壇是它們在 2023 年和微軟一起成立的非營利組織,現在成了大家互通有無、抓違規行為的戰壕。

把網安那套搬來防「蒸餾偷師」

他們要聯手防堵的,在業內叫「對抗性蒸餾」。

說白了,就是競爭對手通過介面大量呼叫頂級 AI 模型,拿這些高質量的輸出結果當成養料,去訓練自己成本低得多的仿製模型。

當年斯坦福大學搞的 Alpaca 模型,最早證明了這條技術路徑走得通。但如今這種操作,已經從學術驗證變成了美國 AI 公司眼裡的真金白銀流失。

據彭博社報道,美國官方估計,這種對抗性蒸餾每年讓美國 AI 實驗室損失數十億美元的收入。

面對這種搞法,三家巨頭的合作方式很像網路安全行業的聯防機制。就像安全公司日常會互通駭客攻擊特徵碼一樣,他們也開始互相共享異常呼叫的情報,用來檢測誰在違反服務條款。

巨頭直接點名,矛盾徹底擺上檯面

其實這場暗戰早就不是秘密,但巨頭們正把事情公開捅破。

早在 2 月,OpenAI 就向美國國會發出過警告,稱 Deepseek 正在使用越來越複雜的手段,從美國模型裡提取核心資料。

Anthropic 這次更是直接點出了具體名字。他們認為 Deepseek、Moonshot 以及 Minimax 都參與了這種模型提取行為。

大廠們過去哪怕發現介面被薅,大多也只是悄悄封掉賬號。現在選擇聯合起來、甚至點名道姓,說明單打獨鬥查封賬號已經堵不住這個漏洞了。

為什麼重要

對普通開發者和中小企業來說,巨頭抱團防禦大機率會帶來連鎖反應。各大平臺接下來很可能會收緊 API 的呼叫審查,對批次請求、異常提示詞和特定地區的賬號採取更嚴苛的風控,合規呼叫的門檻和誤傷成本都會變高。

對整個行業而言,這說明前沿大模型的競爭,已經從單純拼算力、拼架構,外延到了智慧財產權防禦戰。如果蒸餾防不住,先發巨頭高昂的研發成本就很難收回,最終會被低成本複製者不斷壓縮商業空間。

我們認為,巨頭們效仿網路安全行業搞聯防,這一步走得挺聰明。互相打通黑名單和異常流量模式,至少能提高批次資料採集的工程難度和資金成本。

但看起來這套機制依然治標不治本。蒸餾呼叫往往可以偽裝成正常商業請求,分散到成千上萬個代理節點中進行,只要大模型還在對外提供公開服務,徹底杜絕資料提取幾乎是一件不可能完成的事。

來源 (2)

  1. [1]
    bloomberg.com(在新分頁開啟)原文bloomberg.com
  2. [2]

每日 AI 內容精選