캘리포니아, AI 안전 법안 'SB 1047' 규제 대폭 완화... Anthropic 의견 반영

실리콘밸리의 거센 반발에 직면했던 캘리포니아주의 AI 규제 법안 ‘SB 1047’이 최종 표결을 앞두고 결국 한 발 물러섰습니다.

빅테크, 벤처캐피털, 의회 의원들의 전방위적 압박이 이어지자 법안을 발의한 스콧 위너 주 상원의원은 AI 스타트업 앤트로픽의 제안을 대폭 수용한 수정안을 내놓았습니다. 수정된 법안은 15일 캘리포니아주 세출위원회를 통과하며 입법의 마지막 관문에 바짝 다가섰습니다.

대규모 인명 피해를 내거나 5억 달러 이상의 사이버 안보 참사를 유발할 수 있는 대형 AI 시스템에 대해 개발사 책임을 묻겠다는 기본 취지는 유지되었습니다. 하지만 주정부가 AI 연구소를 상대로 휘두를 수 있는 칼날은 눈에 띄게 무뎌졌습니다.

형사 처벌 조항 삭제와 오픈소스 예외 인정

가장 눈에 띄는 변화는 캘리포니아주 법무장관의 사전 제소 권한이 삭제된 점입니다. 기존 안은 재난이 실제로 발생하지 않았더라도 안전 조치가 미흡하면 주정부가 선제적으로 소송을 걸 수 있었지만, 앤트로픽의 권고를 받아들여 위험 행위 중단 명령만 청구할 수 있도록 완화했습니다. 소송은 실제 참사가 터진 뒤에만 가능합니다.

새로운 감독 기구로 계획됐던 ‘프런티어 모델국(FMD)’ 신설도 백지화되었습니다. 대신 기존 정부운영청 산하에 9인으로 구성된 ‘프런티어 모델 위원회’를 두고 안전 가이드라인을 제정하도록 역할을 축소했습니다.

개발자들의 법적 부담도 크게 줄었습니다. 안전 검사 보고서를 제출할 때 적용되던 ‘위증죄 처벌’ 위험이 완전히 사라졌고, 단순히 안전 관행을 정리한 공개 성명서만 제출하면 되도록 형사 책임을 면제했습니다. 안전 보장 의무 문구 역시 ‘합리적 보증’에서 ‘합리적 주의’로 한 단계 낮췄습니다.

오픈소스 생태계를 위한 안전장치도 마련됐습니다. 특정 모델을 파인튜닝하는 데 1000만 달러 미만을 쓴 개인이나 소규모 개발자는 법적으로 ‘개발자’ 책임에서 제외되며, 법적 책임은 원본 기반 모델을 만든 대형 개발사가 그대로 떠안게 됩니다.

여전히 분노하는 실리콘밸리

법안을 손질한 것은 반발 여론을 달래고 개빈 뉴섬 캘리포니아 주지사가 큰 정치적 부담 없이 서명할 수 있도록 길을 열어주기 위한 행보로 풀이됩니다. 그러나 비판론자들의 시선은 여전히 싸늘합니다.

실리콘밸리 대표 VC인 a16z의 마틴 카사도 파트너는 X를 통해 이번 수정이 본질적인 문제를 전혀 해결하지 못한 ‘눈속임’에 불과하다고 꼬집었습니다. 위원회 통과 직후 캘리포니아주를 지역구로 둔 연방 하원의원 8명도 뉴섬 주지사에게 법안 거부권을 행사하라는 공식 서한을 보냈습니다.

수정안의 단초를 제공한 앤트로픽 측조차 자신들의 제안이 전부 반영된 것은 아니라며 최종 입장을 정하기 전 세부 내용을 검토 중이라고 밝혔습니다. 법안은 이제 주 하원 본회의 표결과 상원 확인 투표를 거쳐 뉴섬 주지사의 책상으로 향합니다.

왜 중요한가

우리는 위너 의원의 이번 수정이 법안 폐기를 막기 위한 영리한 정치적 후퇴였다고 봅니다.

위증죄 처벌 조항을 털어내고 1000만 달러 이하의 오픈소스 미세조정 개발자를 법의 테두리 밖으로 빼준 것은 오픈소스 진영과 스타트업의 가장 날 선 반발을 효과적으로 누그러뜨렸습니다. 일반 개발자나 중소 스타트업 입장에서 오픈소스 모델을 가져다 커스텀하는 수준의 작업이라면 최소한 주정부의 규제 칼날을 당장 걱정할 필요는 없어졌습니다.

하지만 빅테크 기업들이 가장 두려워하는 핵심 뇌관은 그대로 남아 있습니다. 바로 모델이 유발한 치명적 사고에 대해 개발사에게 막대한 민사적 책임을 묻는 구조 자체입니다. 이 원칙이 살아있는 한 최첨단 파운데이션 모델을 만드는 테크 기업들의 저항은 사그라들지 않을 것입니다. 법안이 주지사의 서명을 받아 미국 AI 규제의 첫 이정표가 될지, 거부권에 막혀 좌초할지는 이제 주지사의 정치적 결단에 달려 있어 보입니다.