米フロリダの中学校、AIがクラリネットを銃と誤認しロックダウンに

フロリダ州の中学校で、生徒が持っていたクラリネットをAIが銃と誤認し、校内が全面閉鎖される騒動が起きました。

火曜日にオビエドのロートン・チャイルズ中学校で最高レベルの警戒警報が発令され、警察が急行する事態に発展しました。

原因となったのは、地元学区が導入していた武器検知AIシステムによる誤報でした。

人間の二重チェックもすり抜けた管楽器

このシステムは、米ペンシルベニア州のZeroEyes社が提供するクラウド型の銃検知サービスです。

既存の監視カメラ映像を使い、100種類以上の銃器データで学習したコンピュータビジョンでリアルタイムに走査する仕組みです。

AIが武器を検出した場合は即座に通報するのではなく、同社の監視センターにいる人間のアナリストが映像を確認したうえで警察や学校に通知する設計になっていました。

しかし今回はAIの誤認だけでなく、その人間による確認プロセスまでもが機能しませんでした。

学校の校長は保護者への通知で実際の危険はなかったと説明しつつも、学校内で武器の真似事をする危険性について子どもと話し合ってほしいと呼びかける不可解な対応を見せています。

年間25万ドルを払いながら実績は非公開

学区はこのサービスのサブスクリプションに年間25万ドルを支払っています。

しかし、このシステムが過去に一度でも実際の脅威を未然に防いだことがあるのかについて、教育委員会は回答を避けています。

ZeroEyesは全米43州で採用され、フロリダ州内だけでも数十の学区に導入されていますが、誤検出率や検知精度に関する客観的なデータはほとんど公開されていません。

さらに同社がロビー活動を展開した複数の州では、実質的に同社だけが調達基準を満たすような法律が可決されており、競争排除の批判も起きています。

全米市民自由連合の担当者は、頻繁な誤作動が子どもたちを不必要なロックダウンや警察の過剰介入に晒し、誤った安心感を生むだけだと警告しています。

なぜ重要か

私たちは、このトラブルが学校向け安全管理AIの抱える危うさを端的に表していると考えています。

楽器ケースや三脚、スポーツ用具が日常的に行き交う学校現場で、シルエット頼みの画像認識は極めて誤作動を起こしやすいのが実情です。そこに過度な緊張状態にある人間の監視員が加わっても、見落としを恐れるあまり誤判定を追認してしまう構造が浮き彫りになりました。

ビジネスの観点で見ると、ZeroEyesは銃乱射事件に対する社会的な不安を捉えて契約を広げる手法は巧みですが、実績データの開示を拒んだままロビー活動で独占的な地位を固めるやり方には大きな疑問符がつきます。

学校現場が求めているのは形だけのハイテク防衛ではなく、真の安全性と透明性です。客観的な検証データがないまま公費を投入し続ければ、子どもたちに無用な恐怖と混乱を与えるだけの結果になりかねません。