微軟公佈 AI 安全承諾進展：Bing 自動標明 AI 生圖，擴充紅隊

全球首屆 AI 安全峰會馬上要在英國布萊奇利園開幕，各家科技巨頭都急著在監管大考前交作業。

微軟搶先公佈了自己在 AI 安全與治理方面的落地進展，全面對標英國政府列出的九大重點領域。

說白了，微軟這次就是給 7 月份在白宮簽署的自願承諾交出一份階段性成績單，告訴外界自己不是光籤協議不幹活。

獨立紅隊下場，給生圖工具打上防偽標

很多人以為做 AI 安全就是寫幾頁合規文件，但微軟這次把重點放在了實戰攻防上。

微軟擴充了自己的獨立 AI 紅隊，專門負責找高風險系統的漏洞。這支隊伍完全獨立於產品研發部門，避免自己人給自家人放水。

在 OpenAI 於 9 月釋出 DALL-E 3 之後，微軟紅隊立刻聯合跨部門專家，對接入該技術的 Bing Image Creator 展開了深度紅隊演練。

光堵漏洞還不夠，怎麼讓大家認出 AI 生成的內容也是個麻煩事。

微軟已經在 Bing Image Creator 裡全面實裝了內容溯源技術。現在只要是它生成的圖片，都會自動打上 AI 生成的標記。

底層採用的是 C2PA 規範，這項標準是微軟拉著 Adobe、Arm、BBC、Intel 和 Truepic 一起制定的，目的就是給數字媒體立一套通用的出生證明。

改寫開發流程，撒錢拉攏學術圈

為了不讓安全流於表面，微軟動了自己用了十幾年的底層工程規範。

他們把負責任 AI 標準直接整合進了經典的軟體安全開發生命週期也就是 SDL 流程裡。同時，威脅建模規範也加入了針對機器學習特有風險的排查要求。

與此同時，微軟還在大力拉攏學術界和同行。

通過加速基礎模型研究計劃，微軟在 9 月一口氣資助了來自 13 個國家、75 家研究機構的 125 個新專案，專門搞安全、對齊和生命科學應用。

另外，微軟還拉上 Anthropic、Google 和 OpenAI 組成了前沿模型論壇，不僅自己出錢成立安全基金，接下來還要跟斯坦福基礎模型研究中心以及 ML Commons 一起制定測評標準。

為什麼重要

對於每天用 Bing Image Creator 甚至未來用各類 Copilot 的普通使用者和創作者來說，微軟的做法至少提供了一個明確的透明度底線。C2PA 水印讓你一眼能看出圖是不是 AI 畫的，而獨立紅隊的介入，也能減少普通人在日常使用中撞見離譜或危險內容的機率。

對整個行業來說，這場安全軍備競賽正在把合規門檻抬得極高。小創業團隊根本養不起獨立的專業紅隊，更別提去資助全球上百個科研專案。微軟拉著 Google、OpenAI 成立小圈子制定標準的做法，實際上是在提前鎖定未來 AI 行業的遊戲規則。

我們認為，微軟這一步走得相當精明。它沒有等各國政府出臺強制法規把自己套住，而是搶先把行業老大哥的技術標準包裝成治理模範，反向輸出給英國峰會和白宮。

但這裡的隱患也顯而易見。C2PA 這樣的溯源標準再嚴密，也往往防君子不防小人，一旦開源模型不遵守規則或者惡意攻擊者抹掉後設資料，大廠自律搭起來的防線就很容易出現缺口。把安全寄託在巨頭的自願承諾上，看起來依然是整個行業在強監管落地前的一種權宜之計。