미 의회가 검토 중인 AI 규제 총정리: 허가제부터 연산량 통제까지

ChatGPT와 미드저니의 급격한 확산으로 미국 연방정부가 마침내 본격적인 AI 규제 마련에 착수했습니다.

백악관은 5월 AI 정책 패키지를 내놓은 데 이어 7월에는 주요 기업들로부터 사이버 공격 방어와 오용 방지를 위한 자체·제3자 안전 테스트를 거치겠다는 자발적 서약을 이끌어냈습니다. 척 슈머 상원 원내대표는 6월 연설에서 조속한 입법을 약속했고, 초당파 의원들은 최소한 AI가 핵무기 발사 결정을 내리지 못하도록 법으로 못 박아야 한다고 나섰습니다.

현재 워싱턴 정가에서 논의되는 제안들은 대체로 규제 규칙, 감독 기구, 연구 예산, 인재 육성 등 네 가지 범주로 나뉩니다. 이 중에서도 기업과 개발자들의 신경을 가장 곤두세우게 만드는 대목은 단연 새롭게 만들어질 규칙들입니다.

저작권과 편향부터 생물무기 위험까지

도마 위에 오른 규제 안건은 일상적인 법적 분쟁과 국가 안보 차원의 극단적 위험이라는 두 갈래로 나뉩니다.

단기적으로는 저작권과 개인정보 침해가 핵심 쟁점입니다. 미국 저작권청은 AI 생성물이 인간의 독창적 창작물이 아니라는 이유로 저작권을 인정하기 어렵다는 입장을 밝혔고, 학습 데이터 무단 수집을 둘러싼 소송도 이어지고 있습니다. 지난 3월 ChatGPT의 채팅 기록과 결제 정보가 유출되는 취약점이 발견돼 이탈리아가 일시적으로 서비스를 차단했던 일은 개인정보 보호에 대한 경각심을 크게 키웠습니다.

또한 알고리즘 책임법을 통해 연방거래위원회(FTC)가 인종이나 성별 편향성을 직접 단속하도록 권한을 부여하는 방안도 추진되고 있습니다.

반면 다른 한쪽에서는 통제를 벗어난 AI가 심각한 사이버 공격을 감행하거나 치명적인 바이오 무기 합성을 돕는 극단적 시나리오를 막는 데 집중하고 있습니다. 테드 버드 상원의원 등은 보건복지부가 AI의 생물학적 위험을 의무적으로 평가하도록 하는 법안을 발의했습니다. 일각에서는 미국 식품의약국(FDA)의 의약품 허가 절차처럼 위험도가 높은 모델은 정부 승인을 받아야만 배포할 수 있는 면허 제도를 도입해야 한다는 급진적 주장까지 나옵니다.

빅테크 돕는 규제의 덫인가, 엄격한 책임 추궁인가

규제의 수위를 두고 이해관계자들의 입장은 극명하게 엇갈립니다.

전자프론티어재단(EFF)이나 R 스트리트 연구소 같은 자유주의 성향 단체들은 정부의 섣부른 개입이 기술 혁신을 가로막을 뿐 아니라 '규제 포획'을 부를 것이라고 경고합니다. 지나치게 복잡한 규격과 감사 의무를 신설하면 막대한 비용을 감당할 수 있는 OpenAI 같은 소수 빅테크만 살아남아 독점이 더 공고해진다는 논리입니다.

반면 조시 홀리와 리처드 블루먼솔 상원의원은 피해자가 AI 기업을 상대로 직접 소송을 걸거나 검찰이 기소할 수 있도록 면책 범위를 축소하는 법 개정을 밀어붙이고 있습니다.

구글 딥마인드와 OpenAI 소속 연구원을 포함한 24명의 거버넌스 전문가들도 배포 전 위험 평가와 레드팀 테스트를 의무화하고, 가이드라인을 어길 경우 고액의 행정 벌금을 물려야 한다는 보고서를 냈습니다.

왜 중요한가

워싱턴이 만약 FDA 방식의 사전 면허제나 복잡한 감사 의무를 밀어붙인다면 가장 먼저 무너지는 곳은 오픈소스 생태계입니다.

거대 테크 기업에게 수억 원대 제3자 감사나 규제 보고서 작성은 감당 가능한 운영 비용에 불과합니다. 하지만 스타트업이나 독립 오픈소스 연구자들에게 이런 사전 승인 절차는 시장 진입 자체를 포기하게 만드는 벽이 됩니다. 안전이라는 명분으로 설계된 규제가 결과적으로 기존 시장 지배자들의 해자를 깊게 파주는 역효과를 낳을 수 있다고 우리는 판단합니다.

일반 이용자 입장에서는 데이터 보호와 편향 문제에서 법적 보호를 받게 되겠지만, 모델의 진화 속도가 눈에 띄게 둔화되는 대가를 치러야 합니다. 기업들이 잠재적인 소송을 피하기 위해 자율 에이전트 같은 첨단 기능의 출시를 미루거나 기능을 대폭 축소할 가능성이 높기 때문입니다.

지금 워싱턴의 가장 큰 문제는 기술의 발전 속도와 입법부의 이해도 사이의 간극입니다. 치명적인 군사·생화학적 위협과 일상적인 소프트웨어 개발을 정교하게 구분하지 못하고 획일적인 잣대를 들이댄다면, 기술 생태계 전체가 관료주의의 늪에 빠질 위험이 큽니다.