논란의 캘리포니아 AI 안전 법안 주의회 통과, 주지사 서명만 남아

캘리포니아의 인공지능 규제 입법을 둘러싼 실리콘밸리의 대립이 정점에 달했습니다.

논란의 중심에 섰던 캘리포니아 AI 안전 법안 'SB 1047'이 8월 28일 주 의회를 통과해 개빈 뉴섬 주지사의 서명만을 남겨두고 있습니다. 이 법안을 두고 빅테크와 유력 인사들의 입장이 극명하게 갈리고 있습니다.

찬성 돌아선 머스크, 정면 반대 나선 OpenAI

SB 1047은 초대형 AI 모델을 개발하는 기업에 대해 치명적인 피해를 방지할 수 있는 안전장치를 마련하고 이를 문서화하도록 의무화하는 법안입니다. 쉽게 말해 모델이 초래할 수 있는 심각한 위험에 대해 개발사에 직접적인 법적 책임을 묻겠다는 취지입니다.

일론 머스크는 소셜미디어 X를 통해 캘리포니아가 SB 1047을 통과시켜야 한다며 깜짝 지지를 표명했습니다. 그는 어려운 결정이며 일부 사람들을 화나게 만들겠지만, 자신은 20년 넘게 잠재적 위험을 가진 기술 규제를 옹호해 왔다고 밝혔습니다.

머스크가 캘리포니아를 떠나겠다고 공언했음에도 그의 스타트업 xAI 역시 이 법안의 규제 대상에 포함됩니다. 반면 경쟁사인 OpenAI는 SB 1047에 공식적으로 반대 입장을 표명하고 다른 대안 법안을 지지하고 나섰습니다.

워터마크 의무화 'AB 3211'에는 빅테크 줄줄이 찬성

빅테크 기업들이 모든 규제에 반대하는 것은 아닙니다. OpenAI, 마이크로소프트, 어도비는 캘리포니아의 또 다른 법안인 'AB 3211'에 지지 서한을 보냈습니다.

8월 최종 표결을 앞둔 AB 3211은 AI가 생성한 이미지, 영상, 오디오의 메타데이터에 워터마크 삽입을 의무화하는 내용을 담고 있습니다. 아울러 인스타그램이나 X 같은 대형 플랫폼이 일반 이용자가 쉽게 알아볼 수 있는 방식으로 AI 생성 라벨을 표시하도록 규정합니다.

이 세 기업은 이미 AI 콘텐츠 인증 표준인 C2PA 연합의 핵심 멤버입니다. 지난 4월만 해도 이들을 대변하는 소프트웨어 무역 협회가 실행 불가능하고 지나친 부담이라며 반대 서한을 보냈으나, 법안 수정 작업이 이뤄진 뒤 찬성으로 돌아섰습니다.

왜 중요한가

두 법안에 대한 빅테크의 엇갈린 반응은 AI 업계의 이해관계를 여실히 드러냅니다.

AB 3211처럼 결과물에 워터마크를 붙이는 규제는 이미 C2PA 기술 표준을 쥐고 있는 빅테크 입장에서 대응하기 쉽고 모델의 성능 연구를 직접적으로 제약하지도 않습니다. 반면 모델 자체의 안전 책임과 법적 리스크를 묻는 SB 1047은 프론티어 모델 개발 속도를 늦출 수 있어 OpenAI 같은 선두주자에게는 치명적입니다.

머스크의 SB 1047 지지는 오랜 AI 안전 신념을 지키는 모양새를 취하면서도, 규제 준수 비용을 높여 선두를 달리는 OpenAI의 발목을 잡으려는 노림수가 깔려 있다고 볼 수 있습니다.

캘리포니아는 전 세계 기술 규제의 벤치마크 역할을 해왔습니다. 주지사가 이 법안에 최종 서명할 경우, 글로벌 AI 기업들은 모델 배포 전 엄격한 안전성 감사와 검증 절차를 거쳐야 하므로 향후 프론티어 AI 모델의 출시 일정과 오픈소스 생태계 전반에 상당한 지각변동이 예상됩니다.