미 국방부, 생성형 AI 태스크포스 '리마' 출범…전군 LLM 도입 총괄

민간 분야에서 거대언어모델(LLM)을 업무 보조 수단으로 활발히 도입하는 가운데, 미국 국방부(DoD)도 생성형 AI를 국방 체계에 본격 편입하기 위한 전담 조직을 꾸렸습니다.

미 국방부는 생성형 AI를 책임감 있고 전략적으로 활용하기 위한 전담 태스크포스인 'Task Force Lima(태스크포스 리마)'를 공식 발족했다고 발표했습니다. 이번 조직 신설은 캐슬린 힉스 국방부 차관의 직접 지시로 이뤄졌습니다.

CDAO 주도로 군사적 활용과 리스크 통제 병행

태스크포스 리마의 운영은 2022년 6월 본격 가동된 국방부 최고디지털인공지능국(CDAO)이 총괄합니다. CDAO 알고리즘전 부서 소속인 M. 자비에 루고 해군 대령이 임무 지휘관을 맡았습니다.

국방부가 염두에 둔 적용 분야는 작전 수행과 정보 분석뿐 아니라 행정 업무, 의료, 전투 준비태세, 정책 수립까지 폭넓습니다.

군사 환경에서는 사소한 오류도 치명적인 만큼 통제 장치 마련에 무게가 실렸습니다. 크레이그 마텔 CDAO 최고책임자는 부실하게 관리된 학습 데이터로 인해 발생할 수 있는 안보 위협을 완화할 보호 대책을 마련해야 한다고 밝혔습니다. 아울러 적대 세력이 생성형 AI를 악용해 미군의 AI 시스템을 교란할 가능성까지 면밀히 검토할 계획입니다.

또한 미 국방부 내 여러 부서와 정보기관, 타 정부 기관과의 파트너십을 통해 중복 투자를 줄이고 단일화된 위험 관리를 추진합니다.

왜 중요한가

태스크포스 리마의 출범은 미군이 생성형 AI를 개별 부서 차원의 단순 실험을 넘어 국방 전반의 시스템으로 공식 통합하기 시작했음을 보여줍니다. 방위산업체와 AI 개발사 입장에서는 국방 안보 분야의 LLM 검증 기준과 조달 창구가 명확해진 셈입니다.

각 군이 독자적으로 모델을 개발하며 자원을 낭비하는 대신 CDAO를 중심으로 통제탑을 세운 것은 전략적으로 타당해 보입니다.

하지만 생성형 AI 특유의 환각 현상과 불투명성은 한 치의 오차도 허용하지 않는 군사 작전의 기본 원칙과 정면으로 충돌합니다. 적대적 데이터 오염이나 알고리즘 공격에 대한 방어책이 완전히 입증되지 않은 상황에서, 긴박한 전투 지휘관이 AI의 판단을 과연 신뢰할 수 있을지에 대한 근본적인 과제가 태스크포스 리마 앞에 놓여 있습니다.