미 캘리포니아주 행정명령: 주정부 계약 AI 기업에 개인정보·자유 보호 의무화

연방 정부가 인공지능 규제 완화 기조를 보이는 가운데, 캘리포니아주가 주 정부의 막강한 구매력을 앞세워 자체적인 안전 기준을 세웠습니다.

개빈 뉴섬 캘리포니아 주지사는 주 정부와 계약을 맺는 AI 기업을 대상으로 프라이버시와 시민적 자유를 보호하도록 의무화하는 행정명령에 서명했습니다.

이번 조치는 미국 내 최초 사례로 꼽히며, 캘리포니아주와 거래하려는 AI 기업은 불법 콘텐츠, 유해한 편향, 잠재적인 시민권 침해를 막는 안전장치를 갖추었음을 공식 인증해야 합니다.

주 정부 납품 조건으로 내건 안전장치

이번 행정명령은 민간 AI 개발 전체를 일괄 규제하기보다, 주 정부의 예산이 투입되는 공공 조달 계약을 정조준했습니다.

동시에 뉴섬 주지사는 안전 검증을 통과한 AI 도구에 한해 주 정부 산하 기관들이 공공 서비스 개선을 위해 적극 도입하도록 지시했습니다.

뉴섬 주지사는 캘리포니아가 혁신의 발상지이지만, 기술이 잘못 쓰일 경우 시민들을 위험에 빠뜨릴 수 있다는 점을 분명히 짚었습니다.

연방 정책과의 정면 충돌

이번 결정은 최근 워싱턴 정가의 움직임과 정면으로 대치됩니다.

이달 초 백악관은 빅테크 기업들의 로비에 발맞춰 각 주의 개별 규제를 억제하고 완화된 단일 표준을 지향하는 국가 프레임워크를 발표한 바 있습니다.

뉴섬 주지사는 트럼프 행정부가 기업들에게 자율무기 개발과 국내 감시 체계에 AI를 도입하도록 압박하고 있다고 비판했습니다.

그러면서 캘리포니아가 세계 4위 규모의 경제력을 지닌 만큼, 자체적인 구매력을 지렛대 삼아 프라이버시와 보안의 기준을 끌어올리겠다고 밝혔습니다.

왜 중요한가

캘리포니아의 이번 접근 방식은 매우 영리해 보입니다.

빅테크의 로비로 인해 의회 입법이나 법적 분쟁이 길어질 수 있는 전면 규제 대신, 주 정부의 구매 계약 조건을 바꾸는 방식을 택했기 때문입니다. 주 정부의 막대한 공공 조달 예산을 따내려면 기업들은 원하든 원치 않든 엄격한 안전장치를 구축해야 합니다.

AI 공급업체 입장에서는 과거 환경 규제에서 나타났던 이른바 캘리포니아 효과를 다시 마주하게 될 가능성이 큽니다. 거대한 캘리포니아 시장에 납품하기 위해 마련한 편향 방지 및 권리 보호 체계가 결국 상용 엔터프라이즈 모델의 기본 규격으로 자리 잡을 수 있기 때문입니다.

다만 AI 기업들에게는 만만치 않은 딜레마가 될 수 있습니다.

연방 정부는 규제 완화 속에 국방 및 감시 목적의 AI 활용을 독려하는 반면, 캘리포니아는 정반대의 엄격한 인권 보호 기준을 요구하고 있습니다. 양쪽 시장을 모두 잡아야 하는 대형 AI 기업들로서는 정치적, 정책적 양극화 속에서 줄타기를 해야 하는 부담을 안게 되었습니다.