미·중 정상 합의: 핵무기 통제권 AI에 넘기지 않고 인간 통제 유지

SF 영화에서 가장 끔찍한 설정은 핵무기 통제권을 넘겨받은 인공지능이 스스로 판단을 내리고 인간을 위협하는 순간입니다.

현실의 미·중 양국은 적어도 이 파멸적인 시나리오만큼은 사전에 막아야 한다는 데 뜻을 모았습니다.

페루 리마에서 열린 APEC 정상회의를 계기로 조 바이든 미국 대통령과 시진핑 중국 국가주석이 약 2시간 동안 마지막 정상회담을 가졌습니다. 이 자리에서 양국 정상은 인공지능(AI)에 핵무기 통제권을 넘기지 않기로 합의했습니다.

제이크 설리번 백악관 국가안보보좌관은 회담 직후 브리핑에서 두 정상이 "핵무기 사용 결정권은 반드시 인간의 통제 아래에 있어야 한다"는 원칙을 보장하기로 뜻을 모았다고 밝혔습니다.

난항 끝에 나온 깜짝 합의

이번 합의가 더 주목받는 이유는 그동안 미·중 간 안보 및 군축 대화가 사실상 얼어붙어 있었기 때문입니다.

바이든 행정부는 지난 4년 동안 핵 안전과 비확산 문제에서 중국과의 규칙 마련을 시도해 왔으나 번번이 거절당했습니다. 지난 7월에는 미국의 대만 무기 판매에 반발한 중국이 군비 통제 실무 회담을 일방적으로 취소하기도 했습니다.

도널드 트럼프 당선인의 백악관 복귀를 앞둔 임기 말 시점에서, 가장 민감한 군사 AI 영역에 안전장치를 마련한 것은 외교적으로 적지 않은 성과로 꼽힙니다.

이날 회담에서 바이든 대통령은 우크라이나 전쟁에서 러시아를 돕는 북한을 억제해 줄 것을 중국에 촉구했으며, 중국에 억류된 미국인 석방 문제에서도 일부 진전을 본 것으로 전해졌습니다.

왜 중요한가

우리는 이번 합의가 제어 장치 없이 질주하던 군사 AI 경쟁에 상징적이지만 필수적인 제동을 걸었다고 봅니다.

현재 각국 군대는 표적 식별, 정보 분석, 무인기 운용 등 전장의 핵심 영역에 AI 알고리즘을 공격적으로 도입하고 있습니다. 만약 이 자동화 시스템이 전략 핵무기 발사 결정 단계까지 침투한다면, 알고리즘의 환각이나 단순 오류가 돌이킬 수 없는 전면전으로 이어질 수 있습니다. 최후의 결정권만큼은 인간이 쥐고 있어야 한다는 원칙을 양국 정상이 직접 천명한 것은 최소한의 생존선입니다.

하지만 현실적인 한계도 뚜렷합니다.

가장 큰 문제는 검증의 부재입니다. 이번 합의는 구속력 있는 조약이 아니라 정치적 선언에 불과하며, 상대국의 지휘 통제망 깊숙한 곳에서 알고리즘이 어떻게 쓰이는지 상호 감시할 기술적 수단이 없습니다.

곧 출범할 트럼프 2기 행정부의 태도 역시 변수입니다. 바이든 대통령이 임기 막바지에 이끌어낸 이 합의가 정권 교체 이후에도 지속성을 갖고 실제 안보 지침으로 유지될지는 여전히 미지수입니다.