뉴욕시장, 연방정부의 AI 규제 방기 비판…지방정부 차원의 통제 강조

AI 기술이 일상으로 밀려들 때 많은 이들이 느끼는 감정은 기대감보다는 일종의 무력감입니다. 일자리를 잃거나 아이들의 학습 환경이 알고리즘에 잠식당하는 것이 거스를 수 없는 흐름처럼 여겨지기 때문입니다. 하지만 조란 맘다니 뉴욕시장은 이러한 기술 결정론을 정면으로 반박하고 나섰습니다.

월요일 저녁 맨해튼 웹스터 홀에서 열린 행사에서 맘다니 시장은 배우 겸 활동가인 일라나 글레이저와 함께 무대에 올랐습니다. 그는 뉴욕 시민들을 향해 AI 도입이 불가피하다는 체념에서 벗어나 시민 스스로 통제권을 되찾아야 한다고 촉구했습니다.

교실 내 AI 금지부터 부동산 가짜 사진 규제까지

싱크탱크 AI Now Institute가 주최한 이번 행사에서 학부모인 글레이저는 교실 안으로 AI가 들어오는 과정에 동의한 적이 없다며 깊은 불안감을 표했습니다. 맘다니 시장은 기술 기업들이 시민들에게 다른 선택지가 없다는 압박감을 심어주고 있다고 지적했습니다.

뉴욕시는 이미 구체적인 행정 조치로 대응하고 있습니다. 맘다니 시장은 지난달 관내 초등학교와 중학교에서 AI 사용을 전면 금지하는 명령을 내렸습니다.

지난여름에는 부동산 중개인과 플랫폼이 매물 사진이나 비디오에 AI 생성물을 사용할 경우 이를 의무적으로 공개하도록 하는 정책도 도입했습니다. 시민들이 조작된 매물 이미지에 속아 피해를 보는 이른바 하우스 피싱을 막기 위한 조치입니다.

연방 정부의 규제 공백과 기업의 IPO 셈법 비판

맘다니 시장은 연방 정부가 AI 규제 책임을 완전히 방기하고 있다고 강하게 비판했습니다. 이달 초 발표된 도널드 트럼프 대통령의 초지능 태스크포스가 국가 차원의 규제 대신 빅테크의 자율 규제에 무게를 두고 있다는 점을 꼬집은 것입니다. 워싱턴 정가가 기술 경쟁 논리에 매몰돼 인간적인 가치와 사회적 우려를 외면하고 있다는 지적입니다.

그는 기술 한계를 간과한 무모한 도입의 위험 사례로 지난 2월 미군이 이란의 한 학교를 타격해 어린이 123명을 포함해 150명 이상이 숨진 사건을 거론했습니다. 블룸버그에 따르면 국방부 내부 조사 관계자들은 표적 식별 과정에서 AI에 지나치게 의존한 것이 참사의 한 원인이었다고 밝혔습니다.

맘다니 시장은 AI 개발사들만이 기술을 규제할 수 있다는 오만한 태도가 2008년 무렵의 페이스북을 연상시킨다고 비판했습니다. 이는 상장을 앞두고 기업 가치에 흠집을 내지 않으면서 책임을 회피하려는 계산에 불과하다는 설명입니다. 실제로 앤스로픽은 올해 공개 시장 데뷔가 유력하며, 오픈AI 역시 2027년 기업공개를 예고한 상태입니다.

왜 중요한가

일반 시민의 입장에서 뉴욕시의 이러한 행보는 피부에 와닿는 실질적인 안전장치입니다. 학부모는 자녀가 검증되지 않은 상용 알고리즘에 무방비로 노출되는 것을 막을 수 있고, 세입자는 AI로 조작된 미끼 매물로부터 사기 피해를 예방할 수 있습니다. 당장 뉴욕에 거주하는 이들에게는 체감할 수 있는 혜택입니다.

산업 전반의 관점에서는 연방 정부와 지방 자치단체 간의 심각한 규제 엇박자를 보여줍니다. 워싱턴이 국가 간 기술 패권 경쟁을 이유로 규제를 주저하는 사이, 대도시 행정부가 주민 보호를 명분으로 최전선에 나서고 있습니다. 뉴욕의 선례가 다른 도시로 확산될 경우, 상장을 앞둔 AI 거대 기업들은 지역별로 파편화된 규제 장벽을 넘어야 하는 부담을 안게 됩니다.

우리가 보기에 맘다니 시장의 접근법은 매우 영리합니다. 실체 없는 인류 멸망론이나 거대 담론 대신 학교 교실과 전월세 매물 사진이라는 가장 생활 밀착형 영역을 파고들었기 때문입니다. 물론 지자체 단위의 규제만으로는 학교 밖에서 아이들이 스마트폰으로 AI를 쓰는 것까지 완벽히 통제하기 어렵다는 현실적 한계는 있습니다. 하지만 기술 기업이 일방적으로 짜놓은 시간표를 거부하고 지역 사회가 브레이크를 밟을 수 있다는 선례를 남겼다는 점에서 의미가 큽니다.