뉴욕주, AI 안전 규제 'RAISE 법안' 서명…안전 사고 보고 의무화

연방 정부 차원의 규제가 지체되자 미국 주 정부들이 직접 행동에 나서고 있습니다. 캘리포니아에 이어 뉴욕주도 대형 AI 안전을 겨냥한 법안을 공식 확정했습니다.

캐시 호컬 뉴욕주지사는 최근 AI 안전을 규제하는 RAISE 법안(책임 있는 AI 안전 및 교육법)에 최종 서명했습니다. 뉴욕은 캘리포니아에 이어 주요 AI 안전 규정을 마련한 미국 내 두 번째 주가 되었습니다.

법안의 골자는 명확합니다. 대형 AI 모델을 개발하는 기업은 자체 안전 프로토콜을 반드시 공개해야 하며, 중대한 안전 사고가 발생할 경우 72시간 이내에 주 당국에 보고해야 합니다. 또한 뉴욕주 금융서비스국 산하에 AI 개발을 전담 모니터링하는 부서를 신설합니다. 안전 보고서를 누락하거나 허위 진술을 할 경우 최대 100만 달러, 반복 위반 시 최대 300만 달러의 벌금이 부과됩니다.

로비 끝에 핵심 조항이 빠진 수정안

법안 서명까지의 과정은 치열한 대립의 연속이었습니다. 뉴욕주 의회는 지난 6월 법안을 통과시켰으나, 빅테크 기업들의 강력한 로비에 부딪혀 호컬 주지사가 수정을 요구해 왔습니다.

메타, IBM, 인텔과 코넬대, 뉴욕대 등 주요 학술기관이 참여한 'AI 얼라이언스'는 수만 달러를 투입해 반대 광고를 집행하며 법안이 40만 개의 첨단 일자리를 위협한다고 주장했습니다. 반면 150명 이상의 학부모들은 원안대로 서명할 것을 촉구하는 서한을 보내기도 했습니다.

The Verge에 따르면 최종 서명된 법안은 크게 후퇴했습니다. 원안에 포함되었던 100명 이상의 사상자나 생화학·핵무기로 인한 10억 달러 이상의 피해 등 '심각한 위해'를 초래할 위험이 있는 프론티어 모델의 출시를 금지하는 조항이 삭제되었고, 보고 기한과 벌금 수위도 완화되었습니다. 뉴욕타임스는 주지사가 원안에 서명하되 의원들이 내년에 개정안을 반영하기로 합의했다고 전했습니다.

겉으로는 지지, 뒤로는 낙선 운동

업계 내부의 반응은 극명하게 갈리고 있습니다. OpenAI와 Anthropic은 법안에 대한 공개적 지지를 표명하며 연방 차원의 일관된 규제를 촉구했습니다.

하지만 무대 뒤의 풍경은 사뭇 다릅니다. 실리콘밸리 벤처캐피털 a16z와 OpenAI 사장 그렉 브록먼이 후원하는 슈퍼 PAC은 법안을 공동 발의한 알렉스 보레스 주하원의원을 겨냥해 정치적 도전에 나설 채비를 하고 있습니다.

여기에 백악관의 반발도 거셉니다. 도널드 트럼프 대통령은 주 정부의 AI 규제를 무력화하라는 행정명령에 서명했으며, 백악관 AI 담당관 데이비드 삭스 역시 주별 규제에 강하게 반대하고 있어 결국 연방 법정 공방으로 번질 가능성이 큽니다.

왜 중요한가

일반 개발자와 스타트업 관점에서 이 법안은 막대한 컴퓨팅 파워를 다루는 거대 모델 개발사에 초점이 맞춰져 있어 당장의 규제 부담은 크지 않습니다. 다만 사고 발생 시 72시간 이내에 의무적으로 공개해야 하는 규정 덕분에 모델의 결함이나 오작동 사례를 외부에서 투명하게 들여다볼 수 있게 됩니다.

우리는 뉴욕주의 이번 입법이 프론티어 AI를 둘러싼 규제의 한계를 여실히 드러냈다고 봅니다. 법안 통과를 위해 가장 강력한 제재 수단이었던 치명적 위험 출시 금지 조항을 삭제한 점은 실질적인 통제력을 약화시킨 대목입니다. 그럼에도 주 차원의 전담 감시 기구를 만들고 투명성 기준을 법제화했다는 점은 무시하기 어렵습니다.

진짜 파장은 규제의 파편화에서 시작됩니다. 캘리포니아와 뉴욕이라는 양대 거점이 각자의 잣대를 들이대고, 트럼프 행정부가 이를 연방 권한으로 뒤엎으려 하면서 글로벌 AI 기업들은 앞으로 기술 혁신 외에도 복잡한 법적 분쟁을 동시에 풀어내야 하는 상황에 직면했습니다.