Sony AI 在《自然》釋出 FHIBE：用超萬張合規人像測出視覺 AI 偏見

AI 識別行人或者做人臉比對時，經常會暴露出讓人尷尬甚至危險的偏見。追根溯源，很多視覺模型的底子就是當年工程師從網上隨便爬下來的海量照片，連被拍的人知不知情都很難說，更別提標註是否準確了。

為了解決這個積弊，Sony AI 團隊本週在《Nature》上公開了一套全新的基準資料集，名字叫 FHIBE，也就是公平以人為本影像基準。

10,000 張真正知情同意的人像

這套資料集由 Sony AI 的 Alice Xiang 及其團隊主導構建，主要用來評估人臉識別、自動駕駛等各類以人為中心的計算機視覺模型是否存在偏見與刻板印象。

FHIBE 一共收錄了來自全球 81 個不同國家或地區的 1981 位參與者，總計 10318 張影像。

和過去那些靠爬蟲在全網亂抓圖片的做法不同，這套資料集完全建立在知情同意的基礎上。所有參與者在拍攝前都清楚瞭解了專案細節和潛在風險，整體流程符合嚴苛的資料保護法規。

讓被拍的人自己定義自己

除了知情同意，FHIBE 另一個很有意思的突破在於標註方式。很多舊資料集裡的種族或性別全是外包標註員憑主觀感覺猜出來的，而 FHIBE 收集的是參與者本人的自主申報資料。

這些細緻的屬性涵蓋了年齡、代詞類別、血統背景，以及膚色和髮色等生理特徵。

研究團隊拿 FHIBE 和現有 27 個主流的計算機視覺資料集做了橫向對比。結果顯示，FHIBE 在樣本多樣性、知情同意規範以及偏見緩解能力上，都立下了更高的標準，而且在以往資料集中經常被忽視的欠代表人群，在這裡佔了相當可觀的比例。

作者坦言，用這種合規又尊重人的方式去搜集資料，過程不僅非常艱難，成本也極其昂貴。但只有這樣，才能測出很多現有模型以前根本發現不了的偏見盲區。

為什麼重要

我們認為，Sony AI 這一步走得相當清醒，可以說是給整個行業打了個樣。

現在很多做視覺演算法的團隊，最頭疼的就是怎麼給自家的模型做公平性體檢。如果拿來測偏見的標尺本身就不乾淨、不全面，測出來的結果自然也是自欺欺人。FHIBE 為開發者和研究者提供了一把真正乾淨且合規的尺子，尤其是做安防、自動駕駛或消費級相機的團隊，現在完全值得拿它來重新跑一遍自家的模型。

對行業來說，它也倒逼了大廠們正視資料合規的現實。靠偷摸爬圖訓練模型的草莽時代正在加速結束，全球資料監管越來越嚴，誰還敢在涉及人像的核心繫統裡用灰色資料，誰就得承擔巨大的合規風險。

不過在看起來美好的同時，隱患也在於它的門檻。作者自己都承認做這件事又貴又費勁，這意味著除了少數財力雄厚的研究院所或巨頭，中小團隊很難靠自己的力量去複製一套類似的合規資料集。這套標準最終是會推動開源生態共同變好，還是把合規評測變成大廠的特權遊戲，還得看後續這套基準的具體開放與使用門檻。