뉴욕시, 지하철 개찰구에 AI 총기 감지기 시범 도입

뉴욕시가 지하철 개찰구에 총기를 탐지하는 AI 스캐너를 시범 도입하기로 했습니다. 에릭 아담스 뉴욕시장은 매사추세츠 소재 보안 기업인 이볼브 테크놀로지스와 손을 잡고 이 기술을 테스트하겠다고 발표했습니다.

이번 발표는 브루클린 지하철역에서 한 승객이 총을 꺼냈다가 상대방에게 빼앗겨 총에 맞는 사건이 일어난 지 불과 일주일 만에 나왔습니다. 아담스 시장은 최근 도시 범죄율이 떨어졌지만 시민들이 체감하는 불안이 여전히 크다며, 시민이 안전하다고 느끼지 못하면 통계는 무의미하다는 논리를 내세웠습니다.

우산을 총으로 오작동, 규제 당국 조사까지

뉴욕시 법률에 따라 경찰이 새로운 감시 기술을 도입하려면 90일 전에 관련 내용을 공개해야 하므로 실제 배치는 3개월 뒤에나 시작됩니다. 아직 구체적으로 어느 역에 몇 대를 설치할지는 공개되지 않았습니다.

이볼브의 장비는 일반 금속 탐지기처럼 생겼지만 초저주파 전자기장과 센서, AI를 활용해 숨겨진 무기를 가려냅니다. 과거 이볼브의 대표는 시중의 모든 총기와 폭탄, 대형 대검의 특징을 완벽히 데이터베이스화했다고 장담하기도 했습니다.

하지만 실제 성능을 둘러싼 잡음은 끊이지 않았습니다. 일반 장우산을 총기로 잘못 감지하는가 하면, 총열 모양으로 자른 쇠파이프는 그냥 통과시켰다는 보도가 이어졌습니다. 학교 현장에서도 학생 도시락을 폭탄으로 오인하고 실제 칼은 놓치는 일이 잦았습니다.

신뢰도 문제뿐 아니라 법적 리스크도 심각합니다. 독립 기관의 검증 보고서를 돈을 주고 왜곡하거나 낮은 탐지율 수치를 삭제했다는 폭로가 나왔고, 연방거래위원회 FTC와 증권거래위원회 SEC가 잇따라 조사에 착수했습니다. 여기에 주주들의 집단 소송까지 겹쳤으며, 시장의 주요 후원자들이 이 회사에 상당한 투자를 한 사실까지 알려져 비판이 거셉니다.

왜 중요한가

우리는 이번 조치가 실질적인 안전 확보보다는 시민들의 불안을 잠재우기 위한 전형적인 전시 행정에 가깝다고 봅니다.

매일 지하철로 출퇴근하는 승객 입장에서 지금 당장 얻을 수 있는 이점은 거의 없습니다. 극도로 붐비는 출퇴근 시간대에 잦은 오작동을 일으키는 장비가 개찰구를 가로막는다면 통행 병목 현상만 심해질 뿐입니다. 우산이나 보온병을 가방에 넣었다는 이유로 무장 경찰의 불심검문을 받게 된다면, 안전감을 느끼기는커녕 오히려 일상적인 불안과 스트레스만 더 커질 가능성이 높습니다.

공공 인공지능 산업 측면에서도 이번 시험은 매우 위험한 선례가 될 수 있습니다. 스포츠 경기장이나 박물관처럼 통제된 환경에서도 오작동을 거듭했던 기술을 수백만 명이 오가는 지하철에 그대로 밀어 넣는 것은 무리수에 가깝습니다. 연방 당국의 허위 광고 조사와 소송이 진행 중인 미완성 기술을 정치적 명분으로 무리하게 강행했다가 실제 사고를 놓치거나 압사 등의 2차 사고를 부른다면, 공공 AI 기술 전반에 대한 시민 사회의 불신은 걷잡을 수 없이 커질 것입니다.