EU, 생성형 AI 규제 착수…학습 방식 공개 요구·최대 6% 벌금

지난 한 해 동안 Stable Diffusion과 ChatGPT 같은 생성형 AI가 대중적인 인기를 끌었지만, 이를 만든 빅테크 기업들은 모델이 어떻게 학습되었고 작동하는지 철저히 비밀에 부쳐왔습니다.

이러한 개발사들의 불투명한 관행에 제동이 걸릴 것으로 보입니다. 유럽연합(EU)이 막바지 조율 중인 '인공지능 법(AI Act)'에 생성형 AI 도구를 정조준한 구체적인 규제 항목을 추가할 계획입니다.

블랙박스 공개 요구와 글로벌 매출 6% 벌금

EU는 이미지나 텍스트를 생성하는 대규모 모델들을 다양한 용도로 쓰일 수 있다는 점에서 '범용 AI 시스템'으로 분류하고 있습니다. 고객센터 챗봇이나 창작 도구로 쓰일 수도 있지만, 대규모 가짜 뉴스 생성이나 비동의 딥페이크 음란물 제작에도 악용될 수 있기 때문입니다.

AI 법 협상팀 소속인 드라고스 투도라케 유럽의회 의원은 OpenAI, Google, DeepMind 같은 대형 모델 개발사들이 모델의 구축 및 학습 방식을 대외적으로 더 투명하게 공개해야 할 것이라고 밝혔습니다.

해당 법안은 올해 하반기에 통과될 가능성이 높습니다. 법안이 발효되면 EU 내에서 AI 서비스를 제공하거나 사용하는 기업이 이를 위반할 경우 전 세계 연간 매출의 최대 6%에 달하는 막대한 과징금을 부과받을 수 있습니다. 미국에서도 연방거래위원회(FTC) 등이 관련 규제를 검토하기 시작했습니다.

두 가지 유형의 위해와 거버넌스 딜레마

생성형 모델을 규제하는 작업은 결코 단순하지 않습니다. 브루킹스 연구소의 AI 거버넌스 연구원 알렉스 엥글러는 이 기술이 완전히 다른 성격의 두 가지 위험을 안고 있다고 분석합니다.

첫째는 혐오 발언이나 딥페이크와 같은 유해 생성물의 전파이고, 둘째는 기업이 채용 심사나 법률 문서 검토 등에 AI를 도입할 때 발생하는 편향된 결과입니다.

모델의 내부 정보를 공개하는 것은 이를 기반으로 서비스를 만드는 서드파티 개발사들의 편향 분석에는 도움이 됩니다. 하지만 유해 콘텐츠 유포를 막기 위해서는 개발사가 모델 자체에 생성 제한을 걸고 출력을 모니터링하며 악성 이용자를 즉각 차단하는 더 강력한 기술적 통제가 필수적입니다.

왜 중요한가

우리는 이 규제가 거대 기술 기업들이 안전장치 없이 시험용 모델을 일단 배포하고 보던 관행에 마침표를 찍을 신호탄이라고 봅니다.

대형 모델의 API를 활용해 제품을 만드는 스타트업과 개발자에게 투명성 확보는 장기적으로 이득입니다. 모델이 어떤 데이터로 학습되었는지 알아야 저작권 침해나 편향으로 인한 법적 책임을 미연에 방지할 수 있기 때문입니다.

그러나 우려되는 지점도 뚜렷합니다. 규제 준수 기준이 지나치게 까다로울 경우 빅테크 기업들이 최신 AI 기능의 유럽 출시를 미루거나 제외할 가능성이 있습니다. 또한 감당하기 힘든 규제 비용은 법무팀을 갖춘 소수 거대 기업에만 유리하게 작용해 오픈소스 진영이나 초기 스타트업의 설 자리를 좁힐 위험도 큽니다.

느슨한 윤리 권고안에 머물던 AI 규제가 실질적인 사법적 통제로 전환되는 거대한 분기점에 서 있습니다.