美 초당파 의원들, AI의 독자적 핵무기 발사 금지 법안 발의

공상과학 영화 속 인공지능이 인간의 통제를 벗어나 핵미사일을 발사하는 악몽을 법으로 원천 차단하겠다는 움직임이 미국 의회에서 나왔습니다.

에드워드 마키 상원의원과 테드 리우, 돈 바이어, 켄 벅 하원의원 등 초당파 의원들은 '자율 AI 핵 발사 저지 법안'을 발의했습니다.

이 법안은 의미 있는 인간의 통제를 받지 않는 자율 무기 시스템을 사용해 핵무기를 발사하는 데 연방 예산을 사용하는 행위를 금지합니다. 또한 발사를 목적으로 목표를 선정하거나 교전하는 행위 역시 AI에 맡길 수 없도록 규정했습니다.

군 내부 지침을 연방법으로 못 박는 이유

사실 미 국방부는 이미 2022년 지침을 통해 대통령의 핵무기 사용 결정 및 실행의 모든 핵심 과정에 반드시 인간이 개입해야 한다는 규정을 두고 있습니다.

국방부가 이미 금지하고 있음에도 의원들이 법안 제정에 나선 배경에는 2021년 국가인공지능안보위원회의 권고가 있습니다.

보고서는 자율 핵 발사 금지를 법적으로 확고히 함으로써 내부 위험을 방지하는 동시에, 중국과 러시아 같은 적대국에도 유사한 약속을 이끌어내는 지렛대로 삼아야 한다고 제안했습니다.

왜 중요한가

국방부의 내부 정책을 연방법으로 공식화하는 것은 행정부의 변덕이나 긴급 상황을 핑계로 군사 지침이 슬그머니 완화되는 위험을 막아줍니다.

최근 방산 소프트웨어 전반에 자율형 AI가 빠르게 침투하는 상황에서, 적어도 핵 명령 체계만큼은 자동화 연구개발 예산을 원천 차단하겠다는 명확한 가이드라인을 제시했습니다.

다만 이 법안이 의도한 외교적 효과가 실제로 발휘될지는 미지수입니다. 미국이 스스로 손발을 묶는 선례를 보인다고 해서, 군사적 우위를 점하려는 경쟁국들이 과연 AI 무기 통제에 동참할 것인지에 대해서는 현실적인 의문이 남습니다.