앤트로픽, 캘리포니아주 AI 규제 법안 ‘SB 53’ 지지 선언

미국 캘리포니아주의 AI 규제 법안을 둘러싸고 빅테크 진영의 균열이 가시화되고 있습니다. 2025년 9월 8일, Anthropic은 Scott Wiener 캘리포니아주 상원의원이 발의한 새로운 AI 안전 법안 ‘SB 53’을 공식 지지한다고 발표했습니다.

현재 실리콘밸리의 유력 벤처캐피털인 Andreessen Horowitz(a16z), Y Combinator, 그리고 소비자 기술 협회(CTA) 등이 법안 저지를 위해 대규모 로비를 벌이고 있는 상황이라, 선도 AI 연구소인 Anthropic의 이번 행보는 이례적인 결단으로 평가받습니다.

기술적 강제 대신 ‘투명성 보고’ 택한 SB 53

지난해 거센 반발 끝에 Gavin Newsom 캘리포니아 주지사의 거부권 행사로 무산된 SB 1047과 비교하면, 이번 SB 53은 현실적인 타협을 거쳤습니다. AI 모델 개발 과정에 직접 기술적 개입을 가하는 대신 투명성 보고를 강제하는 방식을 도입했습니다.

규제 대상은 10^26 FLOPS 이상의 연산량으로 훈련된 최첨단 모델이나 총매출 5억 달러를 초과하는 대형 기업으로 한정됩니다. 스타트업과 소규모 개발사는 규제 부담에서 제외됩니다. 규제 대상 위험 역시 50명 이상의 사망이나 10억 달러 이상의 재산 피해를 초래할 수 있는 생물학 무기 지원, 대규모 사이버 공격 등 극단적인 ‘파국적 위험’에 집중했습니다.

해당 기업은 안전 프레임워크를 공개하고, 신규 모델 출시 전 위험 평가 보고서를 발표해야 합니다. 중대한 안전 사고가 발생하면 15일 이내에 주 당국에 보고해야 하며, 내부 고발자 보호 조치도 의무화됩니다. 이를 이행하지 않으면 벌금이 부과됩니다. 실리콘밸리가 강하게 반발했던 제3자 의무 감사 조항은 9월 초 법안 수정 과정에서 삭제되었습니다.

연방 규제 기다릴 수 없다는 반론

반대 진영은 AI 규제가 연방 차원에서 단일하게 다뤄져야 한다고 맞서고 있습니다. a16z 측은 개별 주 단위의 법안이 미국 헌법의 통상 조항을 침해할 위험이 있다고 경고했고, OpenAI 역시 주지사에게 서한을 보내 스타트업을 주 밖으로 내모는 규제를 피해야 한다고 주장했습니다.

하지만 Anthropic의 공동 창업자인 Jack Clark은 소셜미디어를 통해 첨단 AI의 발전 속도를 감안할 때 워싱턴의 합의를 마냥 기다릴 수 없다고 반박했습니다. 연방 표준이 최선이지만 부재한 상황에서는 무시할 수 없는 기준점이 필요하다는 입장입니다.

이전 법안을 비판했던 전 백악관 AI 정책 고문 Dean Ball 역시 이번 SB 53은 기술적 현실을 존중하고 입법적 절제를 보여주었다며 통과 가능성을 높게 점쳤습니다.

왜 중요한가

일반 개발자와 스타트업 입장에서는 안도할 만한 소식입니다. 매출 5억 달러와 막대한 연산량을 기준으로 두었기 때문에 일반적인 AI 서비스 개발자들에게 불필요한 규제 비용이 전가되지는 않습니다.

업계 전반에 미치는 영향은 적지 않습니다. 현재 OpenAI, Google DeepMind, Anthropic 등은 각자 자율적인 안전 정책을 운영하고 있지만, 법적 구속력이 없어 경쟁이 치열해질 때마다 안전 조치를 후순위로 미룰 유인이 있었습니다. SB 53이 통과되면 자체 수립한 안전 기준을 위반할 경우 주 정부 차원의 실질적인 금전적 제재를 받게 됩니다.

우리가 보기에 Anthropic의 이번 지지 선언은 ‘안전 중심 AI 기업’이라는 브랜드 이미지를 확고히 하는 동시에, 이미 자사가 준수하고 있는 표준을 경쟁사들에게도 강제하려는 영리한 전략입니다. 다만 캘리포니아를 시작으로 각 주마다 제각각의 규제 법안을 쏟아내는 ‘규제 파편화’가 발생할 경우, 장기적으로 기업들의 법적 대응 비용이 크게 증가할 수 있다는 위험은 여전히 존재합니다.