캘리포니아 새 AI 법안 SB 53 발의: 내부 고발자 보호와 공공 컴퓨팅 구축

지난해 실리콘밸리를 뜨겁게 달궜던 AI 안전 법안 논쟁이 새로운 국면을 맞이했습니다.

미국 전역에서 찬반 논란을 일으켰던 캘리포니아주 법안 'SB 1047'의 대표 발의자 스콧 위너 주 상원의원이 지난주 금요일 'SB 53'이라는 새로운 AI 법안을 공식 발의했습니다. 개빈 뉴섬 주지사의 거부권 행사로 무산된 기존 법안에서 가장 반발이 심했던 독소 조항들을 덜어내고, 비교적 합의를 이루기 쉬운 핵심 요소들만 다시 추려낸 모양새입니다.

내부고발자 보호와 '치명적 위험'의 기준선

새 법안의 핵심은 OpenAI, Anthropic, xAI 등 첨단 프론티어 AI 기업에 종사하는 직원을 법적으로 보호하는 것입니다. 개발 중인 AI 시스템이 사회에 치명적인 위험을 초래할 수 있다고 판단한 직원이 이를 캘리포니아주 법무장관이나 연방 당국, 또는 사내 다른 직원에게 알리더라도 기업이 보복 조치를 취할 수 없도록 규정했습니다.

위너 의원은 AI의 파멸적 위험에 대한 문제의식을 완전히 거두지는 않았습니다. 대신 법안에서 '치명적 위험'에 대한 기준을 구체화했습니다. 파운데이션 모델의 개발과 배포로 인해 100명 이상의 사망 또는 중상자가 발생하거나, 10억 달러 이상의 재산상 피해가 발생하는 경우를 위험의 기준으로 정의했습니다. 이전 SB 1047에서 제시했던 5억 달러 기준보다 재정적 피해 문턱을 두 배로 높인 셈입니다.

공공 컴퓨팅 클러스터 'CalCompute' 추진

규제 강화와 함께 연구 환경을 지원하기 위한 당근책도 포함됐습니다. 바로 공공 클라우드 컴퓨팅 클러스터인 'CalCompute'의 구축입니다.

캘리포니아 대학교 대표단과 민관 연구자들로 구성된 전담 조직을 꾸려, 클러스터의 적정 규모와 구축 방안, 어떤 연구자와 조직에 접근 권한을 부여할지 세부 권고안을 마련하도록 했습니다. 빅테크 기업에 쏠린 막대한 연산 자원을 학계와 스타트업에도 개방해 공익 목적의 AI 개발을 돕겠다는 취지입니다.

왜 중요한가

이번 법안 발의는 한 발 물러서서 실리를 챙기려는 전략적인 움직임으로 보입니다. 지난해 SB 1047은 Y Combinator를 비롯한 실리콘밸리 벤처캐피털 업계로부터 창업자를 범죄자로 만든다는 식의 거센 반발을 샀고, 결국 혁신을 가로막는다는 비판 속에 좌초됐습니다. 반면 이번 SB 53은 반발이 거셌던 사전 안전 인증 요구를 걷어내고, 내부고발자 보호와 공공 인프라 확충이라는 방어하기 쉬운 명분만 남겼습니다.

프론티어 모델을 다루는 내부 연구자들에게 이번 법안은 중요한 전환점이 될 수 있습니다. 최근 주요 AI 연구소에서 안전 문제를 둘러싼 퇴사자가 속출하고 비밀유지계약 논란이 이어졌던 만큼, 법적 처벌이나 해고 걱정 없이 위험을 공론화할 수 있는 안전장치가 마련되기 때문입니다.

하지만 법안 통과를 낙관하기는 어렵습니다. 2024년 한 해 동안 캘리포니아주에서만 18개의 AI 관련 법안이 통과됐지만, 최근 들어 위험 통제보다는 기술 경쟁력을 우선시해야 한다는 기류가 뚜렷해지고 있습니다. 실제로 J.D. 밴스 부통령은 파리 AI 액션 서밋에서 미국이 안전 규제보다는 혁신을 최우선으로 둔다는 신호를 보냈습니다. 연방 차원의 혁신 드라이브 속에서 캘리포니아 의회가 과연 이 타협안을 최종 통과시킬 수 있을지가 관건입니다.