캘리포니아 강력한 AI 규제법 추진에 구글·메타 등 빅테크 반발

도널드 트럼프 전 대통령 측이 연방 차원의 AI 규제 철폐를 예고한 가운데, 캘리포니아주가 정반대 행보를 보이며 대형 IT 기업들과 정면충돌하고 있습니다.

밀워키에 모인 공화당 대의원들이 바이든 정부의 AI 행정명령 폐기를 공언하고 군사용 AI 육성을 위한 이른바 '맨해튼 프로젝트'를 거론하는 동안, 캘리포니아주 의회는 대규모 자본이 투입된 AI 모델의 '파멸적 위험' 테스트를 의무화하는 법안을 밀어붙이고 있습니다.

샌프란시스코 출신 스콧 위너 주 상원의원이 발의한 이 법안은 일정 수준 이상의 연산력을 사용한 대형 모델을 대상으로 합니다. 생화학 무기 제조를 돕거나 전력망 등 핵심 인프라를 마비시키는 치명적 사고를 일으키지 않는다는 점을 공개 전에 기업이 직접 입증해야 한다는 내용입니다.

실명 서한 들고 직접 나선 빅테크

평소 AI 안전 규제의 필요성을 공언하던 실리콘밸리 거물들도 이번 법안 앞에서는 강하게 반발하고 나섰습니다.

구글의 AI 정책 책임자인 앨리스 프렌드는 위원회에 보낸 공식 서한에서 법안의 요구 조건이 기술적으로 실행 불가능하며, 책임을 다한 개발자까지 처벌할 위험이 있다고 지적했습니다. 메타와 마이크로소프트 역시 우려를 담은 서한을 전달했습니다.

업계 단체 테크넷의 딜런 호프먼은 빅테크 기업들이 협회 뒤에 숨지 않고 회사 이름을 걸고 직접 반대 서한을 제출한 것은 매우 이례적인 일이라고 전했습니다. 개발자가 의도하지 않은 악용 사례로 인해 형사 처벌까지 받을 수 있다는 소문이 돌자 위너 의원은 이를 강하게 부인하기도 했습니다.

법안에는 안전 보고서를 심사할 전담 규제 기관인 '프론티어 모델 부서'를 신설하고, 스타트업과 연구진이 대기업 클라우드에 종속되지 않도록 주 정부 주도의 공공 컴퓨팅 시스템을 구축하는 방안도 담겼습니다. 하지만 브루킹스 연구소의 니콜 터너 리는 기업들이 자발적으로 약속했던 안전 수칙을 법적 의무로 강제하면서 업계의 거부감이 극에 달했다고 분석했습니다.

왜 중요한가

스타트업과 개별 개발자에게 이번 법안은 결코 남의 일이 아닙니다. 정부 주도의 공공 클라우드를 지원하겠다는 당근책이 포함되었지만, 기본 모델을 제공하는 대기업이 막대한 법적 책임을 피하기 위해 오픈소스 공개를 축소하거나 API 통제를 강화할 가능성이 큽니다. 가벼운 마음으로 최신 모델을 가져다 쓰던 개발 생태계 전반의 문턱이 높아질 수 있다는 뜻입니다.

업계 전체로 보면 캘리포니아가 다시 한번 미국의 기술 표준을 강제하는 형국입니다. 올해 미국 전역에서 450개 이상의 AI 법안이 다뤄졌지만 캘리포니아의 법안이 가장 큰 파급력을 갖습니다. 11월 대선에서 트럼프가 승리해 연방 행정명령을 무력화하더라도, 글로벌 빅테크 기업들은 캘리포니아 시장을 포기할 수 없기에 결국 주 규제에 맞춰 모델을 검증해야 합니다.

치명적인 생화학 테러나 전력망 마비를 막겠다는 입법 취지에는 공감하지만, 아직 안전성 측정 기준조차 업계 표준으로 정립되지 않은 상태에서 처벌과 규제 기관부터 신설하는 방식은 무리해 보입니다. 규제 적용 대상을 관료 조직이 유연하게 바꿀 수 있도록 열어둔 점 역시 현장에 불확실성을 더해, 혁신적인 개발팀들이 캘리포니아를 떠나게 만드는 부작용을 낳을 수 있습니다.