佛州一中学 AI 把单簧管认成枪:触发全校紧急封锁
据 TechSpot 报道,佛罗里达州一所中学的 AI 枪支检测系统将学生携带的单簧管误判为枪械,触发了最高级别的红色代码封锁。涉事系统由 ZeroEyes 提供,原本设有经过人工复核的流程,但这次两道防线全失灵。事件引发了对校园 AI 监控误报和透明度的质疑。

一个初中生背着单簧管走进学校,结果整座校园直接进入了最高级别的紧急封锁。
这周二,美国佛罗里达州奥维耶多的劳顿查尔斯初中拉响了红警封校警报。大批警察和管理人员迅速赶到现场,最后发现被系统认作致命武器的,不过是一件乐器。
闹出这场乌龙的,是当地学区花大价钱引入的一套 AI 武器检测系统。
连人工审核都没看出来的单簧管
这套系统来自宾夕法尼亚州的安防公司 ZeroEyes。它的运作机制其实并不复杂,直接接入学校现有的监控摄像头,用基于 100 多种枪支图像训练出来的计算机视觉模型实时扫视画面。
按 ZeroEyes 的宣传流程,AI 发现疑似枪支后并不会直接报警,而是把画面传回公司的监控中心,由专职的人工分析师二次确认,核实无误后再通知校方和警方。
可在这起事件里,AI 先把单簧管的轮廓看成了步枪,紧接着这道所谓的人工防线也跟着失守了。
更有意思的是校方的反应。校长 Melissa Laudani 在给家长的通报邮件里确认了没有实际威胁,但转头却让家长去教育孩子,不要在学校里假装携带武器。
年费 25 万美元,却交不出一份成绩单
涉事的塞米诺尔县公立学区,每年要为这套订阅制系统支付 25 万美元。
但公开记录显示,官方从未披露过它到底有没有成功拦截过哪怕一起真实威胁。面对记者的追问,学区安保部门坚称系统是有效的威慑手段,但对误报率和真实拦截次数一概不予回答。
ZeroEyes 目前已经打进了美国 43 个州,在佛州就有几十个学区部署。但它几乎从不公开检测准确率和误报率等核心性能数据。
不仅如此,在几家登记了游说人员的州,当地议员甚至推动通过了特定的采购法案,让 ZeroEyes 成了唯一合规的指定供应商。这种用游说锁定订单的做法,早就引来了排挤竞争和回避审查的批评。
美国公民自由联盟高级政策顾问 Chad Marlow 此前就提醒过,频繁误报的安防系统不仅会制造虚假的安全感,还会让无辜的学生平白承受封校恐慌和警察突击搜查的压力。
为什么重要
我们认为,这起乌龙事件戳破了当下校园安防 AI 最尴尬的一个泡沫:技术宣称的万无一失,往往连日常生活用品的轮廓都应付不来。
对于学校和家长来说,单簧管、雨伞、三脚架和球拍都是校园里每天随处可见的东西。如果模型只要看到长条状物体就草木皆兵,加上人工审核人员在高度紧张下不敢轻易漏报,结果必然是动辄封校。对于心智尚未成熟的孩子而言,经历全副武装的特警封锁校园,造成的心理创伤是真实存在的。
从行业和公共治理来看,ZeroEyes 的做法聪明在抓住了全美对校园枪击案的巨大焦虑,但隐患在于它把公关营销和政治游说做在了技术成熟度前面。它一边享受着政府采购的专有地位,一边却把实际误报数据当成商业秘密捂着不放。
看起来,这种技术并没有真正解决安全痛点,反而成了学区花钱买心理安慰的昂贵道具。如果连基础的性能透明度和第三方评测都不敢公开,这种所谓的主动防御,换来的恐怕只是更多的虚惊一场。
来源 (1)
- techspot.com(在新标签页打开)原文techspot.com