미국, 11월 글로벌 AI 안전 정상회의 개최: 동맹국과 표준 수립 착수

의회의 인공지능 규제 입법이 교착 상태에 빠지자 바이든 행정부가 글로벌 동맹국들을 먼저 불러 모았습니다.

지나 러몬도 미 상무부 장관과 토니 블링컨 국무부 장관은 오는 11월 20일부터 21일까지 샌프란시스코에서 인공지능 안전 연구소 국제 네트워크의 첫 공식 회의를 주최합니다.

생성형 AI의 급격한 확산 속에서 안전하고 신뢰할 수 있는 개발 환경을 만들기 위해 주요국 기술 관료와 전문가들이 한자리에 모이는 자리입니다.

샌프란시스코로 모이는 10개국 전문가들

이 네트워크는 지난 5월 서울 AI 정상회의에서 러몬도 장관이 공식 출범을 발표했던 협의체입니다.

참여국 명단에는 한국을 비롯해 미국, 영국, 호주, 캐나다, 유럽연합, 프랑스, 일본, 케냐, 싱가포르 등 10개국 및 지역이 포함됐습니다.

샌프란시스코 회의에는 각국 AI 안전 연구소 또는 이에 준하는 정부 지원 과학 기관의 기술 전문가들이 대거 참석합니다.

내년 2월 파리에서 열릴 AI 액션 정상회의에 앞서 실질적인 기술 협력과 지식 공유 체계를 먼저 가동하는 것이 핵심 목표입니다.

러몬도 장관은 동맹 및 뜻을 같이하는 파트너들과의 긴밀한 공조를 통해 AI 규칙의 기반을 안전과 신뢰 위에 세우겠다고 밝혔습니다.

입법 공백을 행정 조치로 메우는 미국

이러한 국제 공조 드라이브의 이면에는 미국 내 정치적 현실이 자리 잡고 있습니다.

미 의회에서 AI 규제 법안 논의가 지지부진한 사이, 바이든 행정부는 행정명령과 부처 권한을 활용해 규제망을 좁혀왔습니다.

바이든 대통령은 2023년 10월 국가 안보나 공공 안전에 영향을 미칠 수 있는 고성능 AI 모델에 대해 출시 전 안전 테스트 결과를 정부에 제출하도록 의무화하는 행정명령에 서명했습니다.

미 상무부 역시 지난주 첨단 AI 개발사와 클라우드 제공업체를 대상으로 사이버 공격 방어력 등을 입증하는 상세 보고서 제출 규정을 제안했습니다.

이번 회의는 미국이 마련 중인 안전 기준을 핵심 동맹국들과 조율해 글로벌 표준의 기초로 삼으려는 포석입니다.

왜 중요한가

프론티어 AI 모델을 개발하는 기업과 클라우드 플랫폼 입장에서는 결코 가볍게 볼 수 없는 변화입니다.

각국 정부가 설립한 AI 안전 연구소가 향후 글로벌 모델 배포의 실질적인 검증 기관으로 자리 잡고 있기 때문입니다. 이번 협의를 통해 평가 기준과 레드팀 테스트 방식이 표준화된다면, 기업들이 국가별로 제각각인 규제에 일일이 대응해야 하는 위험을 줄일 수 있습니다.

일반 사용자 입장에서는 당장 쓰는 서비스가 바뀌지는 않겠지만, 차세대 초거대 모델이 대중에 공개되기까지 거쳐야 할 검증 문턱이 한층 높아질 것으로 보입니다.

우리가 보기에 의회의 입법 지연을 우회해 기술 표준 중심의 동맹 네트워크를 먼저 구축한 것은 매우 영리한 전술입니다. 파리 회의를 앞두고 기술 주도권을 선점하려는 의도도 뚜렷해 보입니다.

다만 이 모든 시스템이 의회 입법이 아닌 행정명령에 기반을 두고 있다는 점은 명백한 한계입니다. 정권이 교체되면 정책 방향이 흔들릴 수 있어, 기업과 동맹국들이 장기적인 기준으로 받아들이기에는 여전히 불확실성이 큽니다.