뉴욕시, 대도시 최초 AI 행동 계획 발표…행정 챗봇 도입

관공서에 간단한 민원 하나 문의하려다 끝없는 대기음에 지쳐본 경험은 누구나 있을 겁니다. 에릭 아담스 뉴욕시장의 표현대로라면, 정부에 전화하느니 차라리 바늘 방석에 눕겠다는 시민이 태반인 것이 현실입니다.

뉴욕시는 월요일 총 51페이지 분량의 ‘인공지능 행동 계획’을 공개했습니다. 미국 주요 대도시 중 최초로 마련된 이번 포괄적 프레임워크는, AI 오용이 두렵다고 도입을 피할 것이 아니라 철저한 규율 아래 책임감 있게 행정 효율을 끌어올리겠다는 선언입니다.

관료주의를 깨는 챗봇 실험

아담스 시장은 AI 도입이 터미네이터처럼 인간 공무원을 밀어내고 도시를 장악할 것이라는 공포는 현실이 아니라고 선을 그었습니다. 기술 도입의 핵심 목적은 지루한 관료주의를 걷어내는 데 있습니다.

계획 발표와 함께 뉴욕시는 ‘MyCity Business’ 웹사이트를 통해 공공 AI 챗봇 베타 버전을 선보였습니다. 마이크로소프트의 Azure AI 서비스를 기반으로 구축된 이 챗봇은 2,000개가 넘는 뉴욕시 공식 비즈니스 페이지와 문서를 학습해, 소상공인과 창업자들에게 인허가 및 지원 제도 관련 질문에 답해줍니다. 시는 지난 3월에도 보육 보조금 신청을 돕는 첫 MyCity 플랫폼을 선보인 바 있습니다.

또한 아담스 시장은 통역 대기 시간을 줄이기 위해 자신의 음성을 다국어로 복제한 AI 자동 전화 시스템을 이미 활용하기 시작했다고 밝혔습니다.

이번 행동 계획에는 총 37개 핵심 과제가 담겼으며, 그중 29개는 향후 1년 안에 착수되거나 완료될 예정입니다. 각 시 기관 관계자들로 구성된 ‘AI 운영 위원회’ 신설, 외부 자문 네트워크 구축, 공무원 대상 AI 실무 교육, 연례 진행 보고서 발간 및 공개 공청회 개최 등이 포함됩니다.

이미 현장에서 뛰고 있는 30여 개 알고리즘

사실 뉴욕시 행정망에서 알고리즘은 이미 낯선 손님이 아닙니다.

현재 10여 개 시 기관에서 30개 이상의 알고리즘 도구를 실무에 투입하고 있습니다. 범죄 패턴 분석, 공립학교 학생 배정, 산후우울증 및 모유 수유 상담 연계 판정은 물론, 일부 지하철역의 무임승차 패턴 추적에도 AI가 활용되고 있습니다.

문제는 치안과 주거 등 공공 데이터 자체에 내재된 편향입니다. 과거 데이터에 의존하는 알고리즘은 유색인종과 여성에 대한 차별을 심화시킬 위험이 있습니다. 뉴욕시는 각 기관이 이러한 위험을 자체 평가하고 알고리즘의 유효성을 검증할 새 기준을 마련하겠다고 인정했습니다. 뉴욕대학교의 스테판 베어헐스트 연구교수는 블룸버그와의 인터뷰에서, 재정난에 직면한 뉴욕시가 인력을 대거 늘리지 않고도 대규모 데이터를 분석해 저렴한 주택이 가장 시급한 지역을 찾아내는 데 AI가 큰 힘이 될 수 있다고 분석했습니다.

왜 중요한가

소상공인과 뉴욕 시민 입장에서는 파편화된 규정과 복잡한 신청 절차를 일일이 검색하지 않고 자연어로 안내받을 수 있다는 점에서 당장 체감할 수 있는 편의입니다. 번역 대기 시간을 줄여주는 다국어 자동 알림 등도 시민 체감도가 높은 영역입니다.

공공 부문 전반으로 보면, 뉴욕시의 이번 조치는 미국 내 다른 대도시들에 강력한 표준을 제시합니다. 개별 부서들이 불투명하게 소프트웨어 벤더와 계약해 알고리즘을 도입하던 관행을 멈추고, 시 차원의 통합 지침과 연례 보고서를 통해 공개 검증을 의무화했다는 점에서 의미가 큽니다.

저희가 보기에 뉴욕시의 접근은 영리합니다. 거창한 공약 대신 창업 지원 챗봇처럼 리스크가 적고 체감 효과가 분명한 곳부터 파일럿을 시작했기 때문입니다. 하지만 진짜 위험은 다른 곳에 있습니다. 비즈니스 챗봇의 사소한 오작동은 정정하면 그만이지만, 이미 작동 중인 30여 개 알고리즘은 시민의 형사 처벌 위험, 자녀의 학교 배정, 필수 복지 수혜 여부를 직접 가릅니다. 거버넌스 위원회를 만드는 것만으로 과거 데이터의 편향을 완전히 걷어낼 수 있을지는 앞으로 지켜봐야 할 문제입니다.