美 캘리포니아 주지사, 강력한 AI 규제 법안 'SB 1047' 거부권 행사

지난 몇 달간 실리콘밸리를 가장 긴장하게 만든 것은 엔비디아의 차세대 칩 부족도, 오픈AI의 신기능도 아닌 캘리포니아 주지사의 서명 여부였습니다.

개빈 뉴섬 캘리포니아 주지사가 미국 내에서 가장 강력한 AI 규제 법안으로 꼽히던 'SB 1047'에 대해 거부권을 행사했습니다. 테크 업계와 규제 찬성론자 간의 격렬한 대립 끝에 법안이 문턱을 넘지 못한 채 좌초된 것입니다.

1억 달러 기준선과 '킬 스위치' 의무화

스콧 위너 주 상원의원이 발의한 SB 1047은 캘리포니아에서 사업을 하는 거대 AI 기업들에게 강력한 사전 안전망 구축을 요구하는 법안이었습니다.

구체적으로 훈련 비용이 1억 달러를 넘거나 파인튜닝 비용이 1000만 달러를 초과하는 모델이 대상이었습니다. 개발사는 사이버 공격이나 생물학적 재난 등 치명적 사고를 막기 위한 엄격한 사전 테스트를 거쳐야 했고, 비상시 작동을 멈출 수 있는 '킬 스위치'를 반드시 탑재해야 했습니다. 내부 고발자 보호 조항과 함께, 심각한 피해(5억 달러 이상) 발생 시 주 검찰총장이 손해배상 소송을 제기할 수 있는 권한도 담겼습니다.

입법 과정에서 별도의 신규 규제 기관 설립 계획을 백지화하는 등 대폭적인 수정이 이뤄졌지만, 실리콘밸리의 반발은 거셌습니다.

오픈AI와 구글, 메타를 비롯한 빅테크는 물론 벤처캐피털 업계와 낸시 펠로시 전 하원의장, 런던 브리드 샌프란시스코 시장 등 유력 민주당 정치인들도 반대 전선에 섰습니다. 오픈AI의 제이슨 권 최고전략책임자는 법안이 혁신을 늦출 것이라며 연방 정부 차원의 규제가 적합하다고 주장했고, 메타는 오픈소스 생태계를 무너뜨릴 것이라고 경고했습니다.

찬성 진영 역시 만만치 않았습니다. 'AI 대부'로 불리는 제프리 힌튼과 함께 테크 규제에 회의적이던 일론 머스크가 공개 지지를 선언했고, 미국배우조합(SAG-AFTRA)과 영화감독 J.J. 에이브럼스를 비롯한 120여 명의 할리우드 관계자들도 법안 통과를 촉구했습니다. 앤트로픽의 다리오 아모데이 CEO 또한 수정안을 두고 "이점이 비용을 능가한다"며 지지 쪽으로 돌아선 상태였습니다.

뉴섬 주지사가 거부권을 던진 이유

뉴섬 주지사는 거부권 서한을 통해 법안의 취지 자체는 긍정하면서도 접근 방식에 치명적인 결함이 있다고 짚었습니다.

가장 큰 이유는 법안이 '모델이 어디에 쓰이는가'를 전혀 고려하지 않고, 오직 '개발 비용과 규모'만으로 일괄적인 잣대를 들이댔다는 점입니다. 금융이나 의료 같은 고위험 영역인지, 민감한 데이터를 다루는지와 무관하게 시스템 규모가 크다는 이유만으로 가장 기본적인 기능에까지 엄격한 규제를 적용한다는 지적입니다.

뉴섬은 이러한 방식이 오히려 대중에게 기술을 통제하고 있다는 '거짓된 안도감'을 줄 수 있다고 경고했습니다. 1억 달러 기준에 미치지 못하는 작고 특화된 모델도 얼마든지 동일하거나 더 큰 위험을 초래할 수 있는데, 정작 프론티어 대형 모델의 발전만 가로막을 수 있다는 분석입니다.

법안을 주도한 스콧 위너 의원은 X를 통해 즉각 반발했습니다. 의회 차원의 테크 규제가 완전히 마비된 상황에서, 거대 테크 기업들에 대한 법적 구속력을 만들 기회를 놓친 심각한 후퇴라고 비판했습니다.

왜 중요한가

이번 거부권 행사로 프론티어 AI 기업들은 당장 닥칠 뻔했던 막대한 규제 리스크를 털어내게 되었습니다.

개발자와 AI 스타트업 입장에서는 한숨을 돌린 셈입니다. 법안이 발효됐다면 캘리포니아 내에서 고성능 모델을 다루거나 미세조정하는 팀들은 엄청난 법적 책임과 감사 비용에 짓눌려야 했고, 오픈소스 가중치를 공개하는 흐름 역시 크게 위축될 위험이 컸습니다.

하지만 우리가 보기에 테크 기업들이 마냥 안도하기는 이릅니다. 뉴섬 주지사의 거부권은 규제 포기가 아니라 '접근법의 전환'에 불과하기 때문입니다. 단순히 연산 비용을 기준으로 삼는 것이 아니라 실제 배포 환경과 구체적 위험에 기반한 경험적 분석을 요구한 만큼, 향후에는 개별 산업과 버티컬 애플리케이션 단위로 더 정교한 규제안이 등장할 가능성이 높습니다.

결국 공은 다시 워싱턴의 미 연방 의회로 넘어갔습니다. 실리콘밸리는 각 주별 파편화된 규제 대신 연방 차원의 통일된 가이드라인을 요구해 왔지만, 지난 5월 상원이 내놓은 320억 달러 규모의 AI 로드맵을 제외하면 의회의 법제화 속도는 여전히 지지부진합니다. 국가적 차원의 명확한 규율이 부재한 상황에서 기술 혁신과 안전 통제 사이의 아슬아슬한 줄타기는 앞으로도 계속될 것으로 보입니다.