미 민주당 상원의원들, 앤트로픽의 자율무기·감시 규제 법제화 추진

AI 기업이 자사 모델을 완전 자율 무기나 민간인 감시에 쓰지 못하게 선을 그었다가 정부로부터 안보 위험 기업으로 찍혀 퇴출당하는 일이 미국에서 실제로 벌어졌습니다.

이달 초 트럼프 행정부는 군의 요구 조건을 거부한 앤트로픽을 공급망 위험 기업으로 지정해 블랙리스트에 올렸습니다. 앤트로픽은 헌법적 권리를 침해당했다며 소송을 제기했고, 경쟁사인 오픈AI는 군의 조건을 수용했다가 여론의 거센 역풍을 맞았습니다. 그러자 이번에는 미 상원 민주당 의원들이 앤트로픽의 이 원칙을 아예 법률로 못 박기 위해 팔을 걷어붙였습니다.

캘리포니아주의 애덤 시프 상원의원은 생사가 걸린 AI 결정에 인간의 개입을 의무화하는 법안을 마련하고 있습니다. 미시간주의 엘리사 슬롯킨 상원의원 역시 국방부가 AI를 이용해 자국민을 대량 감시하거나 자율 살상 무기를 배치하고 핵을 기폭하는 행위를 금지하는 'AI 가드레일 법안'을 발의했습니다.

생사의 결정을 알고리즘에 넘길 수는 없다

시프 의원이 내세우는 핵심 원칙은 확고합니다. 사람의 목숨을 앗아갈 수 있는 기술이라면 지휘 계통 안에 반드시 살아있는 인간 운용자가 있어야 한다는 것입니다. 알고리즘에 생사의 책임을 넘겨서는 안 된다는 뜻입니다.

그렇다고 군사 분야에서 AI 활용을 완전히 막자는 것은 아닙니다. 전장에서 AI가 인간보다 빠르게 상황을 파악해 실시간 정보를 운용자에게 전달하는 기능은 국가 안보에 유용할 수 있습니다. 하지만 민간인과 군사 표적을 구별하고 최종적으로 사격 결정을 내리는 일만큼은 인간이 해야 한다는 설명입니다.

슬롯킨 의원의 법안도 비슷한 궤를 같이합니다. AI를 통한 핵무기 발사나 국내 감시를 금지하고, 불가피한 비상 상황에서 자율 살상 무기를 쓸 때만 국방장관이 의회에 보고하도록 규정했습니다. 시프 의원실은 현재 자율 무기의 법적 정의와 적용 대상을 두고 업계 리더들과 구체적인 문구를 다듬고 있습니다.

펜타곤도 AI CEO의 입도 믿을 수 없다

이 같은 입법 움직임의 바탕에는 앤트로픽과 오픈AI가 국방부와의 갈등 속에서 보여준 극명한 대조가 깔려 있습니다. 앤트로픽은 원칙을 지키려다 제재를 받았고, 오픈AI는 원칙을 유지하겠다고 말하면서도 계약을 체결해 해명에 급급한 상태입니다.

시프 의원은 미국 최고의 AI 선도 기업 중 하나를 무너뜨리려는 행정부의 조치가 적대적이고 독재적이라고 비판했습니다. 그러면서 안전 문제를 펜타곤의 준법 의지나 실리콘밸리 CEO의 구두 약속에 맡겨둘 수는 없으며, 반드시 법적 요구 사항으로 못 박아야 신뢰할 수 있다고 강조했습니다.

다만 법안 통과까지는 험로가 예상됩니다. 민주당이 상·하원 모두 소수당인 데다 중간선거가 다가오고 있어, 공화당이 행정부를 비판하는 모양새의 법안에 동의하기 어렵기 때문입니다. 시프 의원은 단독 법안 대신 국방수권법(NDAA) 같은 필수 통과 법안에 해당 조항을 끼워 넣는 방안을 모색하고 있습니다.

왜 중요한가

이번 사태는 AI 윤리 논쟁이 기업의 자율적 선언 수준을 벗어나 현실 정치와 국가 권력의 정면충돌 영역으로 진입했음을 보여줍니다.

일반 시민 입장에서는 대량 감시 제한 조항이 피부에 직접 닿는 문제입니다. 군과 정보기관이 프론티어 AI를 자국민 데이터 추적에 무제한으로 투입하기 시작하면 사생활 보호는 무의미해집니다. 이 법안은 알고리즘을 통한 국가의 무차별 감시를 차단할 수 있는 최소한의 방파제 역할을 합니다.

AI 산업 전체로 보면, 자율적 규제의 한계가 밑천을 드러낸 순간입니다. 윤리적 선을 지킨 앤트로픽은 공공 조달에서 배제되는 벌을 받고, 타협한 기업이 계약을 따내는 구조는 시장의 도덕적 해이를 부추길 뿐입니다. 법으로 모든 기업에 동일한 최소 기준을 강제하지 않는다면 결국 무제한적인 군사화에 편승하는 기업만 살아남게 됩니다.

우리는 기업의 레드라인을 연방법으로 법제화하려는 시도가 올바른 방향이라고 판단합니다. 하지만 당파 싸움이 극심한 상황에서 법안이 표류하거나 누더기가 될 위험도 큽니다. 만약 의회가 통제권을 확보하지 못한다면, 향후 군사 AI 주도권은 윤리적 고민을 포기한 기업과 통제되지 않는 군 당국의 손으로 완전히 넘어갈 것입니다.