미 의원들, AI 기업에 저작권 학습 데이터 공개 의무화 법안 발의

그동안 AI 기업들이 철저히 숨겨왔던 모델 훈련 데이터의 블랙박스를 열겠다는 법안이 미국 의회에서 나왔습니다.

미국 하원의 Anna Eshoo 의원과 Don Beyer 의원은 'AI 파운데이션 모델 투명성 법안(AI Foundation Model Transparency Act)'을 공동 발의했습니다. 연방거래위원회(FTC)가 국립표준기술연구소(NIST)와 협력해 훈련 데이터 투명성 보고 규칙을 마련하도록 강제하는 내용입니다.

핵심 목적은 저작권자가 자신의 저작물이 AI 학습에 쓰였는지 직접 확인할 수 있도록 투명성을 확보하는 것입니다.

데이터 출처부터 투입된 컴퓨팅 파워까지 전면 공개 요구

법안이 요구하는 공개 범위는 생각보다 훨씬 광범위합니다.

파운데이션 모델을 개발하는 기업은 훈련 데이터의 출처뿐만 아니라, 추론 과정에서 데이터가 어떻게 보존되는지, 모델의 한계와 위험은 무엇인지 설명해야 합니다. NIST의 AI 위험 관리 프레임워크와 같은 연방 표준을 어떻게 준수하고 있는지도 밝혀야 합니다.

여기에 모델 훈련과 실행에 투입된 컴퓨팅 파워에 대한 정보 공개도 의무화됩니다.

의료와 보건, 생물학적 합성, 사이버 보안, 선거, 치안, 대출 심사, 교육, 고용, 취약 계층 아동 보호 등 민감한 분야에서 오정보나 유해 정보가 생성되는 것을 막기 위해 어떤 '레드팀(red team)' 테스트를 거쳤는지도 보고해야 합니다.

법안에서는 Getty Images가 Stability AI를 상대로 제기한 소송, 그리고 창작자들이 Midjourney와 Stability AI 등을 상대로 낸 저작권 침해 소송을 직접 언급하며 법적 장치의 필요성을 강조했습니다.

왜 중요한가

창작자와 저작권자에게 이 법안은 사실상 가장 강력한 방패가 될 수 있습니다. 지금까지는 내 그림이나 글이 학습에 도용됐다는 심증이 있어도 기업이 입을 닫으면 확인할 방법이 없었는데, 법적 공개 의무가 생기면 침해 입증과 정당한 라이선스 요구가 훨씬 쉬워집니다.

AI 개발사 입장에서는 웹 데이터를 무단으로 긁어모아 학습시키던 기존 방식에 급제동이 걸리는 셈입니다. 데이터 출처 추적 시스템을 새로 구축해야 하고, 저작권자들과의 유료 라이선스 계약을 체결해야 하는 부담이 크게 늘어납니다.

저작권 문제에만 머물지 않고 컴퓨팅 파워 규모와 레드팀 안전성 테스트까지 묶어서 투명성을 요구한 점은 입법 전략상 매우 영리해 보입니다. AI의 신뢰성과 안전성 문제를 한 번에 겨냥했기 때문입니다.

다만 실제 통과까지는 변수가 많습니다. 바이든 행정부의 AI 행정명령은 법적 강제력이 없었기에 이를 법제화하려는 시도 자체는 의미가 크지만, 본격적인 선거 국면을 앞두고 의회 상임위 심사와 논의를 제때 마칠 수 있을지는 미지수입니다.