앤트로픽, 캘리포니아 AI 규제 법안 SB 1047 “득이 실보다 크다” 평가

캘리포니아의 대형 AI 규제 법안을 두고 실리콘밸리가 거세게 반발하는 가운데, 앤트로픽이 다소 완화된 입장을 내놓았습니다.

앤트로픽의 CEO 다리오 아모데이는 개빈 뉴섬 캘리포니아 주지사에게 서한을 보내, 최근 수정된 SB 1047 법안이 가져올 혜택이 비용보다 클 가능성이 높다고 밝혔습니다. 다만 아직 완전히 확신하기는 이르며, 우려스럽거나 모호한 조항이 여전히 남아있다는 점도 덧붙였습니다.

거센 반대 속 앤트로픽만 기류 변화

민주당 스콧 위너 상원의원이 발의한 SB 1047은 훈련 비용이 1억 달러 이상 들었거나 특정 컴퓨팅 역치 이상을 사용하는 최고 수준의 프론티어 AI 모델을 겨냥합니다. 모델의 안전성 테스트를 의무화하고 이상 작동 시 꺼버릴 수 있는 비상 차단 스위치 방안을 마련해야 하며, 위반 시 캘리포니아주 법무장관이 제소할 권한을 갖습니다.

빅테크 기업들은 강력하게 반발해 왔습니다. 메타는 위너 의원에게 보낸 서한에서 이 법안이 캘리포니아를 AI 개발과 배포에 불리한 곳으로 만든다고 비판했고, 구글도 우려를 나타냈습니다. 오픈AI 역시 AI 규제는 연방 정부 차원에서 이뤄져야 하며, 주 단위 법안은 불확실성을 키워 발전을 늦출 것이라고 주장했습니다.

반면 앤트로픽은 수정 전제 지지 입장을 견지해 왔고, 최근 하원 세출위원회를 거치며 자사 제안이 상당 부분 반영되자 태도를 누그러뜨렸습니다. 특히 실리콘밸리의 반발이 컸던 정부 산하 AI 감독위원회 설립 조항이 수정안에서 빠진 점이 주효했습니다.

1~3년 내 다가올 파국적 위험에 초점

아모데이는 생물학 무기 방어 및 사이버 보안 전문가들과의 협업 결과, 앞으로 1년에서 3년 안에 치명적인 악용 사례가 발생할 가능성이 있다고 짚었습니다. 수정된 법안이 막대한 자금이 투입된 최상위 모델에만 초점을 맞추어 스타트업과 소규모 플레이어의 부담을 덜어준 점도 긍정적으로 평가했습니다.

아모데이가 꼽은 핵심 혜택은 세 가지입니다. 각 기업이 안전 보안 프로토콜을 의무적으로 마련하고 투명하게 공개하도록 한 점, 하류 피해에 대한 책임 기준을 안전 규정의 품질과 연계한 점, 그리고 성능 경쟁 일변도에서 벗어나 안전 과학 연구에 투자하도록 유도한 점입니다. 다만 정부의 과도한 개입을 경계하며 파국적 위험에만 집중해야 한다고 당부했습니다.

왜 중요한가

앤트로픽의 이번 행보는 AI 안전 규제를 둘러싼 빅테크의 단일 대오가 깨졌음을 보여줍니다.

일반 개발자와 스타트업 입장에서는 1억 달러 훈련 비용이라는 명확한 기준 덕분에 당장 규제 직격탄을 맞을 위험은 덜었습니다. 실질적인 규제 굴레는 앤트로픽과 오픈AI, 구글 같은 최상위 프론티어 모델 개발사들에게 집중되기 때문입니다.

경쟁 구도에서 볼 때 앤트로픽의 전략은 매우 영리합니다. 창립 초기부터 안전을 최우선 가치로 내세우며 이미 막대한 안전 인프라 비용을 치르고 있는 앤트로픽으로서는, 이를 법적 의무화하는 것이 메타나 오픈AI 같은 경쟁사들의 진입 장벽을 높이는 효과를 냅니다.

하지만 잠재적 위험도 뚜렷합니다. 연방 차원의 통일된 가이드라인 없이 캘리포니아주가 독자적인 법적 책임을 밀어붙일 경우, 기업들은 막대한 법률 검토 비용을 치러야 합니다. 규제를 피해 데이터센터나 핵심 연구 인력이 다른 주로 이전하는 부작용이 생길 가능성도 배제할 수 없습니다.