美 캘리포니아, 빅테크 AI 안전 규범 및 사고 보고 의무화하는 SB 53 발의

지난해 실리콘밸리를 발칵 뒤집어놓았던 캘리포니아주 AI 규제 법안이 발톱을 숨긴 채 다시 돌아왔습니다.

캘리포니아주 스콧 위너 상원의원은 수요일, 최신 AI 규제 법안인 SB 53에 대한 수정안을 발의했습니다. 이번 법안은 OpenAI, Google, Anthropic, xAI 등 세계 최대 AI 개발사들에게 안전 및 보안 프로토콜을 대중에 공개하고, 안전 사고 발생 시 보고서를 제출하도록 의무화하는 내용을 담고 있습니다. 법안이 통과되면 캘리포니아는 미국 최초로 프론티어 AI 기업에 구체적인 투명성 기준을 부과하는 주가 됩니다.

법적 책임 덜어내고 '투명성'에 집중한 개정안

위너 의원이 앞서 추진했던 SB 1047은 AI 모델로 인한 피해 책임을 개발사에 직접 물어 테크 업계의 극심한 반발을 샀고, 결국 개빈 뉴섬 캘리포니아 주지사의 거부권 행사로 무산되었습니다. 이후 뉴섬 주지사는 스탠퍼드대 교수이자 월드 랩스 공동 창업자인 페이페이 리 등이 참여하는 정책 그룹을 꾸렸습니다. 이 그룹은 업계가 시스템 정보를 공표해 신뢰할 수 있는 데이터 환경을 조성해야 한다고 권고했고, SB 53은 이 권고안을 적극적으로 수용했습니다.

가장 눈에 띄는 변화는 AI 모델 피해에 대한 개발사의 법적 책임을 삭제했다는 점입니다. 또한 대형 모델을 미세조정해 사용하는 스타트업이나 오픈소스 모델을 연구하는 개발자들에게는 규제 부담이 가지 않도록 설계되었습니다.

법안에는 100명 이상의 사상자나 10억 달러 이상의 손실을 초래할 수 있는 '중대 위험'을 인지하고 제보한 AI 랩스 직원을 보호하는 내부고발자 보호 조항도 포함되었습니다. 이와 함께 스타트업과 학계 연구자를 위한 공공 컴퓨팅 클러스터인 CalCompute 구축 계획도 담겼습니다.

느슨해진 빅테크의 자율 공시, 강제 규제로 죈다

의회가 규제를 밀어붙이는 배경에는 빅테크 기업들의 자발적 안전 보고가 최근 눈에 띄게 줄어든 탓도 있습니다. Google은 최신 플래그십 모델인 Gemini 2.5 Pro를 내놓고 수개월이 지난 뒤에야 안전 보고서를 냈고, OpenAI는 GPT-4.1의 안전 보고서를 아예 건너뛰었습니다. 이후 제3자 연구를 통해 GPT-4.1이 이전 모델보다 정렬 수준이 떨어질 수 있다는 지적이 나오기도 했습니다.

현재 Anthropic은 투명성 의무화에 비교적 긍정적인 입장이지만, OpenAI와 Google, Meta 등은 주 차원의 규제에 완강히 반대하고 있습니다. 그러나 연방 상원에서 각 주의 AI 규제 권한을 10년간 동결하려던 시도가 99대 1로 부결되고 뉴욕주에서도 유사한 RAISE 법안이 논의되는 등, 주 단위 규제 움직임은 거세지고 있습니다.

왜 중요한가

대다수의 스타트업과 일반 개발자 관점에서 이번 SB 53은 환영할 만한 타협안입니다. 오픈소스나 상용 API를 활용해 앱을 만드는 개발 생태계에는 추가적인 규제 부담을 지우지 않으면서, 장기적으로 CalCompute를 통한 공공 컴퓨팅 자원 지원까지 기대해 볼 수 있기 때문입니다.

우리는 위너 의원의 이번 전략 수정이 매우 영리했다고 봅니다. 개발사에 천문학적 배상 책임을 지우려다 실패했던 과거를 교훈 삼아, 핵심을 '안전 지침 공개'와 '내부고발자 보호'라는 투명성 확보로 좁혔습니다. 이는 혁신을 가로막는다는 업계의 단골 반론을 무력화하면서도 최소한의 안전장치를 거는 방식입니다.

다만 의무 공개 보고서가 실효성 없는 홍보성 문구로 채워질 수 있다는 한계는 여전히 존재합니다. 그럼에도 프론티어 AI 기업들이 자체 안전 기준을 밀실에서 자의적으로 다루던 시대는 서서히 막을 내리고 있는 것으로 보입니다.