美 캘리포니아, AI 투명성 법안 'SB 53' 통과…안전 보고 의무화

지난해 AI 혁신을 위축시킬 수 있다는 이유로 SB 1047 법안에 거부권을 행사했던 개빈 뉴섬 캘리포니아 주지사가 1년 만에 수정된 AI 규제안에 최종 서명했습니다.

뉴섬 주지사는 스콧 위너 주 상원의원이 발의한 첨단 인공지능 투명성 법안인 SB 53에 공식 서명했습니다. 이로써 캘리포니아주는 주요 AI 기업에 안전 프로토콜 공개를 의무화한 미국 내 첫 번째 주가 되었습니다.

엄격한 사전 테스트 대신 투명성 공개로 선회

폐기된 이전 법안 SB 1047은 훈련 비용이 1억 달러 이상인 모델에 필수 위험 테스트를 강제하는 등 매우 강력한 규제를 담고 있었습니다. 거부권 행사 이후 뉴섬 주지사는 연구진에게 대안 마련을 주문했고, 그 결과 제출된 52페이지 분량의 보고서가 SB 53의 뼈대가 되었습니다.

새 법안의 핵심은 처벌성 책임 부과보다는 자발적 공개를 통한 투명성 확보입니다. 대형 AI 개발사는 국가 및 국제 표준, 업계 모범 사례를 자사 모델 프레임워크에 어떻게 반영했는지 웹사이트에 공개해야 합니다.

안전 및 보안 프로토콜을 변경할 경우 30일 이내에 수정 내용과 사유를 공표해야 합니다. 또한 프론티어 모델의 중대한 안전 위험을 외부에 알린 내부 고발자를 보호하는 장치와 캘리포니아 비상대책국에 잠재적 위험을 보고할 수 있는 통로도 마련되었습니다. 캘리포니아 법무장관실은 미준수 기업에 민사상 벌금을 부과할 수 있습니다. 다만 초안에서 거론되던 제3자 독립 감사 조항은 최종안에서 빠졌습니다.

엇갈린 빅테크 반응: 앤트로픽은 찬성, 메타와 오픈AI는 반발

캘리포니아는 약 4,000만 명의 인구와 핵심 테크 기업들이 밀집해 있어 주 차원의 규제가 곧 글로벌 기준으로 이어질 가능성이 높습니다.

법안 통과 과정에서 기업들의 입장은 극명하게 갈렸습니다. 앤트로픽은 법안 문구 수정 협상을 거친 뒤 공개 지지로 돌아섰습니다.

반면 메타는 지난 8월 캘리포니아 내 AI 입법에 대응하기 위해 주 단위의 슈퍼 PAC(정치활동위원회)을 결성했습니다. 오픈AI 역시 강하게 반대하며 로비를 펼쳤습니다. 크리스 르헤인 오픈AI 글로벌 대외협력 책임자는 뉴섬 주지사에게 서한을 보내, EU 모범 규준이나 미 연방 기관과의 안전 협약을 준수한 기업은 캘리포니아주의 중복 규제를 면제해 줘야 한다고 주장했습니다.

왜 중요한가

AI 연구자와 테크 업계 종사자들에게 이번 법안의 가장 큰 의미는 내부 고발자 보호입니다. 최신 모델의 위험성을 외부에 알릴 때 겪어야 했던 직업적 불이익 위험이 크게 줄어들게 되었습니다.

산업 전반으로 보면 규제의 방향이 엄격한 진입 장벽 대신 프로세스 공개로 이동했다는 점을 보여줍니다. 훈련 비용이나 연산량 기준으로 인위적인 한도를 두지 않아 스타트업의 혁신을 직접적으로 가로막지 않는 영리한 타협안입니다. 하지만 제3자 강제 감사가 빠져 있어 기업들이 홍보성 자체 가이드라인만 늘어놓는 데 그칠 위험도 존재합니다. 오픈AI와 메타의 지속적인 반발에서 보듯, 연방 차원의 단일 규제와 주 정부 법안 간의 충돌은 앞으로 더 격화될 것으로 보입니다.