캘리포니아주, AI 제3자 독립 감사 의무화 법안 서명

지금까지 주요 AI 기업들은 새 모델을 낼 때마다 수십 쪽짜리 자체 안전 보고서를 내놓으며 안전하다고 홍보해 왔습니다. 하지만 솔직히 말해 이는 학생이 스스로 자기 시험지를 채점하는 격이었습니다.

캘리포니아주가 이 채점 펜을 직접 회수하기로 했습니다. 9월 9일 개빈 뉴섬 캘리포니아 주지사는 미국 최초로 AI 독립 감사 체계를 구축하는 두 가지 핵심 법안인 상원 법안 813(SB 813)과 하원 법안 1405(AB 1405)에 최종 서명했습니다. 개발사가 자체적으로 안전을 인증하던 관행을 막고 공인된 제3자 검증을 의무화하는 것이 핵심입니다.

자체 검증 시대의 종식과 공인 감사관 제도

이번에 서명된 두 법안은 감사 기관의 평가 프레임워크와 감사관의 자격 요건을 빈틈없이 나누어 다룹니다.

제리 맥너니 상원의원이 발의한 SB 813은 AI 시스템과 모델이 캘리포니아 주법을 준수하는지 평가하는 독립 검증 기관의 기준과 체계를 마련합니다. 맥너니 의원은 강력한 AI 모델이 자율 에이전트와 결합하면서 실질적인 위협으로 떠올랐지만 연방정부가 손을 놓고 있어 캘리포니아가 직접 선제 조치에 나섰다고 설명했습니다.

레베카 바우어-카한 하원의원이 발의한 AB 1405는 감사관의 자격을 관리합니다. 주 정부 차원의 AI 감사관 공식 등록부를 신설하고, 이들의 독립성과 투명성, 전문적 윤리 기준을 법으로 못 박았습니다. 바우어-카한 의원의 지적처럼 기업이 스스로 숙제를 검사하게 둘 수는 없으며, 공인된 제3자가 실제 위험을 짚어내고 검증해야만 공공 인프라를 지킬 수 있다는 논리입니다.

캘리포니아의 이런 행보는 하루아침에 나온 것이 아닙니다. 2023년 주 정부 AI 활용 행정명령을 시작으로 2024년 딥페이크 및 워터마크 규제, 2025년 첨단 AI 투명성 법안(SB 53) 통과에 이어 지난달 발표한 AI 사이버 방어 프로그램까지 단계적으로 규제망을 촘촘히 좁혀왔습니다.

왜 중요한가

우리는 캘리포니아의 이번 결정이 AI 규제에서 가장 까다로운 맹점, 즉 기업의 자율 규제 한계를 정확히 짚어낸 똑똑한 수순이라고 봅니다.

AI 기업과 개발팀 입장에서는 이제 자체 작성한 시스템 카드로 안전성을 증명하던 시절이 끝났음을 뜻합니다. 캘리포니아 내 주요 산업이나 공공 입찰에 진입하려면 공인 감사 기관을 거치는 막대한 규제 비용과 개발 지연을 감수해야 합니다. 동시에 회계 감사처럼 새로운 AI 전문 감사 시장이 본격적으로 태동할 것으로 보입니다.

일반 시민과 이용자 관점에서는 금융, 의료, 공공망 등 핵심 인프라에 침투하는 자율 AI 에이전트의 오작동과 통제 상실 위험을 외부 전문가가 감시해 준다는 최소한의 안전판을 얻게 됩니다.

다만 실행 과정의 맹점도 뚜렷합니다. 현재 글로벌 업계 전체가 공감하는 객관적인 AI 안전 벤치마크조차 명확하지 않은 상황에서 감사관들이 어떤 잣대로 합격 여부를 판가름할지가 불분명합니다. 기준이 지나치게 경직되면 스타트업의 탈캘리포니아를 부추길 수 있고, 반대로 기준이 흐릿하면 대기업의 로비에 휘둘려 요식 행위로 전락할 위험이 있습니다. 그럼에도 '셀프 채점'을 법으로 차단했다는 점에서 확실한 전환점입니다.