跳到正文
IFAI

產業動態

佛州一中學 AI 把單簧管認成槍:觸發全校緊急封鎖

首次發布 傳播指數 42

據 TechSpot 報道,佛羅里達州一所中學的 AI 槍支檢測系統將學生攜帶的單簧管誤判為槍械,觸發了最高級別的紅色程式碼封鎖。涉事系統由 ZeroEyes 提供,原本設有經過人工複核的流程,但這次兩道防線全失靈。事件引發了對校園 AI 監控誤報和透明度的質疑。

佛州一中學 AI 把單簧管認成槍:觸發全校緊急封鎖
圖:techspot.com

一個初中生揹著單簧管走進學校,結果整座校園直接進入了最高級別的緊急封鎖。

這週二,美國佛羅里達州奧維耶多的勞頓查爾斯初中拉響了紅警封校警報。大批警察和管理人員迅速趕到現場,最後發現被系統認作致命武器的,不過是一件樂器。

鬧出這場烏龍的,是當地學區花大價錢引入的一套 AI 武器檢測系統。

連人工稽核都沒看出來的單簧管

這套系統來自賓夕法尼亞州的安防公司 ZeroEyes。它的運作機制其實並不複雜,直接接入學校現有的監控攝像頭,用基於 100 多種槍支影像訓練出來的計算機視覺模型即時掃視畫面。

按 ZeroEyes 的宣傳流程,AI 發現疑似槍支後並不會直接報警,而是把畫面傳回公司的監控中心,由專職的人工分析師二次確認,核實無誤後再通知校方和警方。

可在這起事件裡,AI 先把單簧管的輪廓看成了步槍,緊接著這道所謂的人工防線也跟著失守了。

更有意思的是校方的反應。校長 Melissa Laudani 在給家長的通報郵件裡確認了沒有實際威脅,但轉頭卻讓家長去教育孩子,不要在學校裡假裝攜帶武器。

年費 25 萬美元,卻交不出一份成績單

涉事的塞米諾爾縣公立學區,每年要為這套訂閱制系統支付 25 萬美元。

但公開記錄顯示,官方從未披露過它到底有沒有成功攔截過哪怕一起真實威脅。面對記者的追問,學區安保部門堅稱系統是有效的威懾手段,但對誤報率和真實攔截次數一概不予回答。

ZeroEyes 目前已經打進了美國 43 個州,在佛州就有幾十個學區部署。但它幾乎從不公開檢測準確率和誤報率等核心效能資料。

不僅如此,在幾家登記了遊說人員的州,當地議員甚至推動通過了特定的採購法案,讓 ZeroEyes 成了唯一合規的指定供應商。這種用遊說鎖定訂單的做法,早就引來了排擠競爭和迴避審查的批評。

美國公民自由聯盟高階政策顧問 Chad Marlow 此前就提醒過,頻繁誤報的安防系統不僅會製造虛假的安全感,還會讓無辜的學生平白承受封校恐慌和警察突擊搜查的壓力。

為什麼重要

我們認為,這起烏龍事件戳破了當下校園安防 AI 最尷尬的一個泡沫:技術宣稱的萬無一失,往往連日常生活用品的輪廓都應付不來。

對於學校和家長來說,單簧管、雨傘、三腳架和球拍都是校園裡每天隨處可見的東西。如果模型只要看到長條狀物體就草木皆兵,加上人工稽核人員在高度緊張下不敢輕易漏報,結果必然是動輒封校。對於心智尚未成熟的孩子而言,經歷全副武裝的特警封鎖校園,造成的心理創傷是真實存在的。

從行業和公共治理來看,ZeroEyes 的做法聰明在抓住了全美對校園槍擊案的巨大焦慮,但隱患在於它把公關營銷和政治遊說做在了技術成熟度前面。它一邊享受著政府採購的專有地位,一邊卻把實際誤報資料當成商業秘密捂著不放。

看起來,這種技術並沒有真正解決安全痛點,反而成了學區花錢買心理安慰的昂貴道具。如果連基礎的效能透明度和第三方評測都不敢公開,這種所謂的主動防禦,換來的恐怕只是更多的虛驚一場。

來源 (1)

  1. [1]
    techspot.com(在新分頁開啟)原文techspot.com

每日 AI 內容精選