미국 플로리다 중학교, AI가 클라리넷을 총으로 오인해 학교 봉쇄
플로리다주의 한 중학교에서 AI 무기 감지 시스템이 학생이 든 클라리넷을 총기로 잘못 식별해 긴급 봉쇄령이 내려졌다. 보안 업체 ZeroEyes의 시스템은 인간 모니터링 요원의 2차 검증을 거치게 되어 있으나 이번 오경보를 걸러내지 못했다. 이에 따라 학교 내 AI 감시 시스템의 실효성과 투명성을 둘러싼 논란이 커지고 있다.
플로리다주의 한 중학교에서 AI 무기 감지 시스템이 학생이 든 클라리넷을 총기로 잘못 식별해 긴급 봉쇄령이 내려졌다. 보안 업체 ZeroEyes의 시스템은 인간 모니터링 요원의 2차 검증을 거치게 되어 있으나 이번 오경보를 걸러내지 못했다. 이에 따라 학교 내 AI 감시 시스템의 실효성과 투명성을 둘러싼 논란이 커지고 있다.