EU, 세계 최초 포괄적 'AI 법' 잠정 합의: 위반 시 글로벌 매출 최대 7% 벌금

유럽연합(EU) 협상단이 세계 최초의 포괄적 인공지능 규제 법안인 'AI법(AI Act)'에 잠정 합의했습니다.

유럽의회와 이사회는 위험도에 따라 AI 시스템을 분류하고 의무를 부과하는 방식에 뜻을 모았으며, 규정을 위반할 경우 최대 3500만 유로 또는 전 세계 연간 매출의 7%에 달하는 무거운 벌금을 매기기로 했습니다.

전면 금지되는 기술과 엄격한 예외

이번 합의는 인간의 기본권과 민주주의를 침해할 수 있는 특정 AI 기술을 원천 금지 목록에 올렸습니다.

인종, 정치적 견해, 종교, 성적 지향 등 민감한 특성을 기준으로 사람을 분류하는 생체 인식 시스템은 금지됩니다. 인터넷이나 폐쇄회로 화면에서 얼굴 이미지를 무차별 수집해 안면인식 데이터베이스를 구축하는 행위도 불법으로 규정됐습니다.

직장과 학교 내 감정 인식, 사회적 행동에 따른 소셜 스코어링, 인간의 자유의지를 조작하거나 취약 계층을 악용하는 AI 역시 시장에 나올 수 없습니다.

법 집행 기관의 공공장소 실시간 원격 생체 인식 사용은 법원의 사전 승인과 특정 중범죄 수사 등 매우 좁은 예외에서만 허용됩니다. 테러 위협 예방이나 납치 피해자 수색 등에 한해 제한적으로 쓰이게 됩니다.

은행 대출이나 보험, 선거 개입 등에 쓰이는 고위험 AI에 대해서는 기본권 영향 평가가 의무화되며, 사용자는 AI 판단에 대해 합당한 설명을 요구할 권리를 갖습니다.

범용 AI 모델을 향한 고삐

최근 급성장한 대형 언어 모델 등 범용 AI(GPAI)에 대한 규제 방안도 확정됐습니다.

범용 AI 개발사는 기술 문서 작성, EU 저작권법 준수, 모델 학습에 사용된 데이터 내용의 상세한 요약 공개 등 투명성 요건을 반드시 충족해야 합니다.

시스템적 위험을 초래할 수 있는 고영향 범용 모델은 더 까다로운 기준을 적용받습니다. 적대적 레드팀 테스트, 위험 완화 조치 수행, 중대 사고 발생 시 집행위원회 보고, 에너지 효율 공개 등이 강제됩니다.

스타트업과 중견·중소기업의 혁신이 위축되지 않도록 각국 규제 샌드박스를 통해 시장 출시 전 안전하게 기술을 실험할 수 있는 통로도 마련하기로 했습니다.

왜 중요한가

이번 합의는 글로벌 AI 업계가 규제 없는 자유로운 실험실에서 강력한 법적 테두리 안으로 들어섰음을 알리는 신호탄입니다.

일반 시민 입장에서는 무차별적인 안면 데이터 스크래핑과 직장 내 감정 감시로부터 보호받고, AI의 부당한 결정에 대해 설명을 요구할 수 있는 법적 권리를 확보했다는 점에서 가치가 큽니다.

반면 AI 개발사와 빅테크 기업들에게는 상당한 컴플라이언스 비용이 발생하게 됐습니다. 특히 학습 데이터 요약 공개 의무는 저작권 침해 분쟁을 겪고 있는 대형 모델 개발사들의 급소를 정조준하고 있습니다.

기술 자체가 아니라 위험도를 기준으로 규제를 설계한 점은 합리적으로 보입니다. 다만 유럽 스타트업들이 무거운 규제 비용을 감당하지 못해 미국 등 해외로 이탈하거나, 글로벌 빅테크가 유럽 출시를 미루는 부작용이 생길 가능성은 여전히 숙제로 남았습니다.