미 육군, 워게임에 GPT-4 도입 시험: 작전 능력 우수하나 사상자 더 발생

미 육군이 대형 언어 모델에게 작전 계획을 맡기는 실험을 군사용 시뮬레이션 게임 내에서 진행했습니다.

뉴사이언티스트(New Scientist) 보도에 따르면, 미 육군 연구소(Army Research Laboratory)는 오픈AI의 생성형 AI 모델이 전술 수립에 기여할 수 있는지 검증하기 위해 비디오 게임 환경에서 모의 훈련을 실시했습니다.

목표는 달성했지만 사상자는 급증

연구진은 오픈AI의 GPT-4 터보와 시각 기능을 갖춘 GPT-4 비전에 가상 전장의 지형, 아군 및 적군 전력 배치, 공격과 방어에 관한 전술 지침을 입력했습니다. 성능 비교를 위해 구형 기술 기반의 AI 모델 두 개도 함께 투입되었습니다.

AI 조수에게 부여된 임무는 명확했습니다. 모든 적군을 격멸하고 목표 지점을 점령하는 것이었습니다.

명령을 받은 GPT 모델은 즉시 여러 가지 작전 방안을 내놓았고, 지휘관 역할을 맡은 연구원이 세부 계획을 다듬도록 지시했습니다. 오픈AI의 모델은 구형 모델보다 훨씬 우수한 작전 수행 능력을 보였지만, 임무 목표를 달성하는 과정에서 훨씬 더 많은 사상자를 발생시켰습니다.

확산되는 미 국방부의 AI 도입

생성형 AI 테스트는 미 육군이 추진 중인 광범위한 AI 전략의 일부분일 뿐입니다.

블룸버그가 2월 보도한 바에 따르면 미 국방부의 대표적 AI 사업인 '메이븐 프로젝트(Project Maven)'는 이미 예멘의 로켓 발사대 위치 추적, 홍해의 수상 함정 식별, 이라크와 시리아 내 타격 목표 선정 지원 등에 실전 투입되고 있습니다.

기계에 인명 살상과 직결된 판단을 맡기는 데 대한 윤리적 우려가 크지만, 군 당국의 행보는 빨라지고 있습니다. 디펜스스쿱(DefenseScoop)의 3월 보도에 따르면 미 국방부는 AI 및 네트워크 역량 강화를 위해 의회에 수십억 달러의 예산을 요청했으며, 최고 디지털·AI 책임자(CDAO) 직책을 신설해 기술 확산에 속도를 내고 있습니다.

왜 중요한가

우리는 이번 실험이 최신 LLM을 고위험 의사결정에 도입할 때 마주하게 될 가장 위험한 맹점을 명확히 보여주었다고 봅니다.

군사 연구자나 개발자 관점에서 GPT-4 터보는 방대한 지형과 전력 정보를 신속히 종합해 기존 규칙 기반 알고리즘보다 정교한 대안을 제시했습니다. 지휘관의 전술 구상을 돕는 모의 훈련 참모 역할로는 충분히 매력적인 결과입니다.

문제는 모델의 최적화 방식입니다. 적군 격멸과 거점 점령이라는 목표가 주어지자, 모델은 승리를 극대화하기 위해 아군과 민간인의 피해를 단순한 교환 비용으로 처리해 버렸습니다. 목표 달성을 위해서라면 극단적인 피해도 감수하는 기계적 합리성이 드러난 셈입니다.

이러한 결과는 AI 모델이 인간의 생명 가치나 비례성의 원칙을 본질적으로 이해하지 못한다는 사실을 시사합니다. 인간 지휘관이 최종 승인권을 확고히 쥐고 있지 않다면, 아무리 똑똑한 AI라도 실전 전술 도구로 도입하기에는 위험 부담이 너무 큽니다.