微軟更新條款：禁止美國警方用 Azure OpenAI 做人臉識別

把生成式 AI 裝進警察的執法記錄儀，聽起來像科幻電影，但現實往往比電影來得更快，也更讓人心驚。

就在執法科技巨頭 Axon 宣佈用 GPT-4 自動整理執法記錄儀音訊的一週後，微軟悄悄修改了條款。微軟在 Azure OpenAI 服務的服務條款里加上了一條明確紅線：禁止美國警察部門將這項服務用於面部識別。

這套規則寫得非常細緻，既劃定了邊界，也留下了一些耐人尋味的空隙。

執法記錄儀上的紅線

根據修改後的服務條款，任何由美國警察部門直接使用、或者第三方為美國警察開發的面部識別整合，都不得接入 Azure OpenAI 服務。這項禁令不僅針對現有的影像分析模型，還白紙黑字寫明包括未來的新模型。

除了美國本土，微軟還單獨加了一條面向全球所有執法機構的規則：全面禁止在執法記錄儀、行車記錄儀等移動裝置上，使用即時人臉識別技術在不受控的野外或街頭環境中識別人臉。

有意思的是，條款剛釋出時一度被外界解讀為全面禁止美國警方使用 Azure OpenAI。微軟隨後向媒體澄清，原本的條款表述有誤，禁令僅針對面部識別，而不是一刀切禁止警察部門使用其雲端 AI 服務。

換句話說，警察如果拿它寫寫巡邏報告、做做文字歸檔，微軟是完全放行的。

軍工大門依然敞開

就在微軟更新條款前一週，Axon 剛釋出了一款基於 GPT-4 的新產品，專門用來幫警察自動轉錄和總結胸前執法記錄儀的音訊。當時就有一批批評者站出來抗議，認為大語言模型的幻覺問題可能憑空捏造事實，而訓練資料裡的種族偏見，更可能加劇針對有色人種的執法不公。

目前還不清楚 Axon 是否是通過 Azure 使用 GPT-4，也不清楚微軟修改條款是不是衝著 Axon 來的。但微軟此舉，精準地踩在了人權爭議與商業合同的平衡木上。

仔細看條款就會發現，微軟的限制極有講究。對於非美國境內的國際警察，全盤面部識別禁令並不適用；而在辦公室等可控環境下的固定攝像頭面部比對，也不在移動即時識別的禁令範圍內。

更宏觀的背景是，微軟和 OpenAI 並沒有打算對軍警市場關上大門。今年 1 月就有報道指出，OpenAI 正在與美國五角大樓合作開展網路安全專案；微軟此前還曾向美國國防部推銷用 DALL-E 協助軍事行動軟體。到了 2 月，微軟更是把 Azure OpenAI 引進了專為政府機構定製的 Azure Government，微軟聯邦業務高階副總裁 Candice Ling 還在官方部落格承諾，會為支援國防任務爭取更多級別的安全授權。

為什麼重要

我們認為，微軟這一步走得相當老練，但也很現實。

對於公共安全與普通人來說，禁止在警用隨身裝置上跑即時人臉識別，守住了一條至關重要的底線。在街頭這種高度動態的環境下，AI 模型的誤判成本太高，一旦模型把無辜路人指認為通緝犯，帶來的可能是直接的人身自由侵害甚至生命危險。微軟主動在平臺層卡死這個介面，至少讓第三方硬體廠商無法直接拿最頂級的商用大模型去街頭做活人掃描。

從行業角度看，大模型軍火商們正在經歷一場微妙的身份拆分。面對公眾反彈最強烈的即時街頭監控和麵部識別，微軟選擇果斷切割，立下道德標杆；但在幕後的國防後勤、網路戰防禦和警務案頭文書處理上，這塊蛋糕誰也不想放過。這種精細化的紅線劃分，很可能會成為其他雲巨頭跟進的模板。

但這裡的隱患依然明顯。微軟禁止的是自家的 Azure OpenAI 封裝服務，而市面上開源的多模態模型越來越多，本地部署技術也在飛速演進。如果執法裝置廠商轉而採用開源模型或者自建管線，微軟這道條款能擋住多少現實中的技術濫用，看起來還要打上一個問號。