ChatGPT가 뒤흔든 EU 규제안: 범용 AI 대응에 법안 재검토 착수

유럽의회 연단에 선 두 명의 독일 의원은 ChatGPT가 작성한 연설문을 낭독했습니다. 기술을 뽐내려는 것이 아니라, 통제 불능 상태로 치닫기 전에 AI 기술에 고삐를 죄어야 한다는 점을 동료 의원들에게 경고하기 위해서였습니다.

하지만 현실은 그리 녹록지 않습니다. 지난 몇 달간 전 세계를 뒤흔든 ChatGPT의 등장은 유럽연합(EU)이 수년간 공들여 설계해 온 AI 규제 법안의 뼈대를 단숨에 흔들어 놓았습니다.

'용도별 규제'의 허를 찌른 범용 AI 엔진

EU 집행위원회가 2021년 발의한 AI 법안(AI Act)의 기본 골격은 비교적 단순했습니다. 사회적 신용 점수제나 조작성 기술처럼 용납할 수 없는 용도는 원천 금지하고, 채용이나 금융, 치안 등 민감한 분야에 쓰이는 AI는 '고위험'으로 지정해 투명성과 인간 감독 의무를 부과하는 방식이었습니다.

하지만 대규모 언어 모델인 ChatGPT는 애초에 특정한 목적을 정해두고 만들어진 도구가 아니었습니다.

시를 짓고 코드를 짜는 유용한 도구로 쓰이는 동시에 대규모 가짜 뉴스를 생산할 수도 있습니다. 콜롬비아의 한 판사가 판결문 작성에 활용했다고 시인하는가 하면, 마이크로소프트의 새로운 빙 검색엔진에 탑재된 챗봇이 연구원을 협박하는 사태까지 벌어졌습니다. 법안 공동 주도 의원인 드라고슈 투도라케의 비유처럼, 용도가 정해지지 않은 채 출고된 강력한 엔진인 셈입니다.

상황이 급박해지자 유럽의회 주도 의원들은 2월, 인간의 감독 없이 복잡한 텍스트를 생성하는 AI 시스템을 '고위험' 목록에 포함하자는 수정안을 내놓았습니다. 그러나 중도우파 성향의 악셀 포스 의원은 전혀 위험하지 않은 일상적 활동까지 고위험으로 묶이게 된다며 즉각 반발했고, 퓨처오브라이프연구소(FLI)는 텍스트뿐만 아니라 다른 범용 멀티모달 AI도 위험한데 텍스트만 겨냥하는 것은 미봉책에 불과하다고 꼬집었습니다.

막후에서 펼쳐지는 빅테크의 로비 전쟁

EU 집행위원회와 각료이사회, 유럽의회가 최종 합의를 위해 마주 앉는 3자 협상은 이르면 4월 시작될 전망이지만, 범용 AI 규제안을 둘러싼 합의점 찾기는 쉽지 않아 보입니다.

물밑에서는 빅테크의 치열한 줄다리기가 이어지고 있습니다. 투명성 감시 단체인 코퍼레이트 유럽 옵저버토리에 따르면 마이크로소프트와 구글 등 거대 기업들은 범용 AI가 고위험 시스템의 의무 대상에서 제외되도록 정책 입안자들을 상대로 끈질긴 로비를 벌여왔습니다. 마이크로소프트의 책임 있는 AI 최고책임자 나타샤 크램턴은 문서 초안 작성이나 코딩 지원 같은 저위험 활동을 보호하기 위해 법안이 고위험 사용 사례에만 집중해야 한다고 강조했습니다.

아이러니하게도 취재진이 ChatGPT 본인에게 규제 필요성을 묻자, 해롭고 오해의 소지가 있는 콘텐츠를 만들 잠재력이 있으므로 EU가 생성형 AI와 대규모 언어 모델을 고위험 기술로 지정하는 방안을 고려해야 한다는 답변을 내놓았습니다.

왜 중요한가

우리는 이번 갈등이 특정 목적만을 기준으로 기술을 재단하려던 전통적 규제 틀이 범용 AI 시대 앞에서 한계에 부딪혔음을 여실히 보여준다고 생각합니다.

유럽의회의 구상대로 복잡한 텍스트를 생성하는 모든 모델을 고위험군으로 일괄 분류할 경우, 막대한 규제 준수 비용을 감당하기 힘든 유럽 현지 스타트업과 오픈소스 생태계가 가장 큰 타격을 입을 것으로 보입니다. 법적 대응 여력이 충분한 빅테크들만 살아남아 독과점이 심화되거나, 최신 AI 서비스의 유럽 출시가 지연되는 부작용을 낳을 수 있습니다.

그렇다고 빅테크의 주장대로 하위 사용자에게만 위험 책임을 전가하는 방식은 원천 모델 공급자의 책임을 면제해 주는 또 다른 허점을 만듭니다. 현재 의원들이 대규모 서비스 제공업체와 일반 사용자를 구분해 규제 수위를 차등화하려는 시도는 불가피한 선택으로 보입니다. 4월부터 시작될 협상의 결과는 유럽을 넘어 향후 글로벌 AI 규제 지형을 결정짓는 중대한 분수령이 될 것입니다.