캘리포니아 의회, AI 안전 법안 'SB 53' 통과…주지사 거부권 변수 남아

지난해 주지사의 거부권 행사로 무산됐던 캘리포니아의 대규모 AI 안전 규제 시도가 수정안을 들고 다시 주지사 집무실 문을 두드렸습니다.

캘리포니아주 상원은 토요일 새벽, 스콧 위너 주 상원의원이 발의한 AI 안전 법안인 SB 53을 최종 승인했습니다. 이제 법안은 개빈 뉴섬 캘리포니아 주지사의 서명 또는 거부권 행사 결정만을 남겨두게 되었습니다.

거대 기업 타깃으로 바뀐 SB 53의 핵심

위너 의원에 따르면 SB 53은 대형 AI 연구소의 안전 규정 투명성 공개 의무화, AI 기업 내부 고발자 보호 장치 마련, 연구자들의 컴퓨팅 접근성을 넓히기 위한 공공 클라우드 캘컴퓨트(CalCompute) 설립 등 세 가지를 핵심으로 다룹니다.

뉴섬 주지사는 지난해 고위험 환경 배포 여부나 중요 의사결정 활용 여부와 관계없이 일괄적으로 엄격한 기준을 적용했다는 이유로 위너 의원의 이전 법안을 거부한 바 있습니다. 이번 법안은 당시 거부권 행사 이후 뉴섬 주지사가 소집한 AI 전문가 패널의 권고를 대폭 반영했습니다.

폴리티코에 따르면 최근 법안 수정 과정에서 연 매출 5억 달러라는 명확한 기준선이 추가되었습니다. 최첨단 모델을 개발하더라도 연 매출이 5억 달러 미만인 기업은 개괄적인 안전 세부 사항만 공개하면 되며, 상세 보고서 제출 의무는 5억 달러 이상의 거대 기업에만 적용됩니다.

찬반으로 갈라선 실리콘밸리

법안 통과 소식에 테크 업계의 반응은 극명하게 엇갈리고 있습니다.

앤스로픽은 공개적으로 지지 의사를 밝혔습니다. 잭 클라크 앤스로픽 공동창업자는 연방 차원의 단일 표준을 더 선호하지만, 그것이 부재한 상황에서 이번 법안은 무시할 수 없는 견고한 AI 거버넌스 청사진을 제공한다고 평가했습니다.

반면 대형 투자사와 일부 기업들은 강력히 반발하고 있습니다. 오픈AI는 뉴섬 주지사에게 보낸 서한에서 SB 53을 직접 언급하지는 않았으나, 규제 중복과 혼선을 피하기 위해 연방이나 유럽 기준을 충족한 기업은 주 규제도 준수한 것으로 인정해야 한다고 주장했습니다.

앤드리슨 호로위츠(a16z)의 최고법률책임자는 이번 주 법안들이 주 간 통상을 규제하는 헌법적 한계를 침해할 위험이 있다고 지적했습니다. 앞서 a16z 창업자들은 규제 문제를 이유로 도널드 트럼프 전 대통령을 지지했으며, 트럼프 행정부와 그 지지층은 주 단위 AI 규제를 10년간 금지해야 한다고 요구해 왔습니다.

왜 중요한가

우리는 SB 53이 이전보다 훨씬 전략적으로 다듬어진 법안이라고 평가합니다. 연 매출 5억 달러라는 문턱을 둠으로써 초기 스타트업의 발목을 잡는다는 비판을 영리하게 피해 갔고, 학계와 중소 연구진을 위한 캘컴퓨트 지원책까지 얹어 뉴섬 주지사가 거부권을 행사하기 까다로운 구조를 만들었습니다.

하지만 본질적인 한계는 여전합니다. AI 모델과 코드는 주 경계에 머물지 않기 때문에, 캘리포니아와 뉴욕 등 주마다 제각각 규제를 도입할 경우 기업들이 감당해야 할 규제 준수 비용은 눈덩이처럼 불어나게 됩니다. 오픈AI가 제기한 상호 인정 요구는 이러한 주 단위 파편화에 대한 현실적인 피로감을 보여줍니다.

스타트업과 일반 개발자 입장에서는 이번 법안이 당장 직접적인 족쇄가 되지 않으며, 공공 컴퓨팅 자원 확충이라는 잠재적 혜택도 기대해 볼 만합니다. 결국 핵심은 뉴섬 주지사의 선택입니다. 그가 서명한다면 캘리포니아는 사실상 미국 AI 안전 규제의 표준으로 자리 잡겠지만, 다시 거부권을 행사한다면 AI 통제권은 전적으로 연방 정부의 몫으로 넘어가게 될 것입니다.