캘리포니아 18개 AI 법안 서명: 딥페이크·무단 디지털 복제 전면 규제

캘리포니아주 개빈 뉴섬 주지사가 거대 AI 모델의 파멸적 재앙을 막겠다던 논란의 법안 SB 1047에 거부권을 행사했을 때, 많은 이들은 실리콘밸리가 규제 칼날을 완전히 피했다고 생각했습니다. 하지만 실제 서명 내역을 들여다보면 정반대입니다.

뉴섬 주지사는 SF적 위험을 다룬 법안 하나를 폐기한 대신, 일상 속 구체적인 피해를 막기 위한 AI 관련 법안 18건에 전격 서명했습니다. 모델 자체를 통째로 묶어두는 대신 저작권, 딥페이크, 의료, 선거 조작 등 실제 피해가 발생하는 현장을 촘촘하게 옥죄는 방식을 택한 것입니다.

가상 재앙 대신 당장 닥친 문제부터

뉴섬 주지사는 SB 1047 거부권 행사 서한에서 대규모 프론티어 모델에만 잣대를 들이대는 방식은 대중에게 잘못된 안전망이라는 착각을 줄 수 있다고 꼬집었습니다. 오픈소스나 소형 모델도 똑같이 악용될 수 있는 만큼, 더 유연하고 현실적인 규제가 필요하다는 논리입니다. 그는 세일즈포스 마크 베니오프 CEO와의 대담에서도 실증된 위험과 가상의 위험을 분리해 당장 해결할 수 있는 일부터 풀겠다고 밝힌 바 있습니다.

그 결과 통과된 법안들은 현실의 급소를 정확히 겨눴습니다. 2026년 시행되는 AB 2013은 생성형 AI 개발사가 학습 데이터 출처를 웹사이트에 투명하게 공개하도록 강제합니다. 데이터 소스 목록과 데이터셋 규모는 물론, 저작권이나 라이선스가 걸린 데이터가 포함됐는지 여부까지 밝혀야 합니다.

여기에 AB 1008을 통해 기존 캘리포니아 개인정보 보호법이 생성형 AI에도 그대로 적용된다는 점을 명확히 했습니다. 챗GPT 같은 도구가 이용자의 이름이나 주소, 생체 정보를 유출할 경우 기업은 법적 책임을 피할 수 없습니다.

할리우드 디지털 분신부터 선거 딥페이크까지

문화 산업에서는 미국 배우방송인노동조합(SAG-AFTRA)이 밀어붙인 법안 2건이 큰 파장을 일으켰습니다. AB 2602는 명확한 사전 동의 없이 배우의 목소리나 외모를 AI로 복제해 실제 연기를 대체하는 계약을 무효화했습니다. AB 1836은 유족이나 유산 관리단체의 허락 없이 사망한 배우를 디지털로 부활시키는 행위를 전면 금지했습니다.

선거철을 노린 가짜 영상에 대한 단속도 거세졌습니다. 대형 소셜미디어 플랫폼이 선거 관련 딥페이크를 삭제하거나 경고 표시를 붙이도록 의무화했고, 기만적 딥페이크를 퍼뜨리는 행위 자체를 처벌할 수 있는 길도 열렸습니다. 댈리와 같은 이미지 생성 도구는 메타데이터에 AI 생성물임을 알리는 식별 태그를 의무적으로 넣어야 합니다.

이 밖에도 의료진이 AI를 활용해 환자의 임상 정보를 전달할 때 고지를 의무화하고, 건강보험사의 자동화 심사에 반드시 면허를 가진 의사의 감독을 거치도록 하는 등 보건의료 영역의 안전장치도 대거 신설됐습니다.

왜 중요한가

우리는 캘리포니아주의 이번 행보가 현재 각국 정부가 취할 수 있는 가장 영리하고 현실적인 AI 규제 모델을 보여준 것이라고 봅니다. 일어나지 않은 미래의 SF적 공포에 매달리기보다 딥페이크 사기, 창작자 권리 침해, 선거 왜곡처럼 지금 눈앞에서 터지고 있는 피해에 법적 메스를 들이댔기 때문입니다.

이용자와 창작자 입장에서 이 법안들은 당장 체감할 수 있는 든든한 보호벽입니다. 동의 없는 음성 복제나 악의적인 나체 합성물 유포를 법적으로 응징할 수단이 생겼고, 플랫폼도 신고 즉시 차단해야 하는 의무를 지게 됐습니다.

하지만 AI 스타트업과 개발자들에게는 본격적인 규제 비용의 시대가 열렸음을 의미합니다. 특히 2026년 발효되는 학습 데이터 공개 의무는 그동안 웹 크롤링 데이터로 체급을 키워온 생성형 AI 업계의 관행을 뒤흔들 것입니다. 법무팀을 거느린 빅테크는 18개에 달하는 개별 규제에 대응하겠지만, 자원이 부족한 초기 스타트업들에게는 캘리포니아발 규제 그물망이 상당한 진입 장벽으로 작용할 것으로 보입니다.