팔란티어, 군용 AI 플랫폼 'AIP' 공개… 챗봇으로 군사 작전 수립

동유럽 전선을 감시하는 작전실에 경보가 울린다. 화면 앞에 앉은 군 작전 요원은 전화를 걸거나 복잡한 지도 판독을 하는 대신, 챗GPT처럼 생긴 대화창을 띄우고 질문을 입력한다.

영화 속 장면이 아니다. 피터 틸이 공동 창업한 미국 데이터 분석 기업 팔란티어가 공개한 차세대 국방 플랫폼 '팔란티어 AIP(Artificial Intelligence Platform)'의 공식 시연 영상이다. GPT-4 같은 거대언어모델을 군용 기밀 네트워크 안에서 구동할 수 있도록 설계된 소프트웨어다.

챗봇으로 리퍼 드론 띄우고 타격 방안 추천받기

영상 속 가상 시나리오에서 작전 요원은 아군 인근에 적군 장비가 집결하고 있다는 AIP의 알림을 받는다.

요원은 AI 챗봇에게 적 부대의 구체적인 편성을 추정해 달라고 요청한 뒤, 더 선명한 현장 사진을 확보하라고 지시한다. AIP는 명령에 따라 MQ-9 리퍼 드론을 발진시키고, 촬영된 화면을 통해 구소련제 T-80 전차가 배치되어 있음을 확인한다.

이어 요원이 어떻게 대응해야 할지 묻자, AI는 세 가지 타격 옵션을 제시한다. F-16 전투기 공습, 장거리 포격, 그리고 재블린 대전차 미사일 공격이다.

AI는 인근 부대에 재블린 미사일 재고가 충분한지까지 자동으로 파악하고 통신 방해 작전 자동화까지 제안한다. 요원이 할 일은 AI가 정리해 준 선택지 중 하나를 골라 상급 지휘관에게 전송 승인을 누르는 것뿐이다.

자체 모델 개발 대신 '통제 환경' 판매에 집중

눈여겨볼 점은 팔란티어가 군용 자체 거대언어모델을 직접 개발해 파는 것이 아니라는 사실이다. 기존 상용 모델이나 오픈소스 모델을 통제된 군사 환경에 연결해 주는 플랫폼 역할에 가깝다.

실제로 시연에서는 FLAN-T5 XL, 파인튜닝된 GPT-NeoX-20B, Dolly-v2-12b 등 다양한 오픈소스 모델과 맞춤형 플러그인을 지원하는 모습이 공개됐다.

팔란티어는 군 당국의 우려를 의식해 영상의 절반을 보안 통제 기능 설명에 할애했다. 기밀 네트워크와 전술 단말기 배포 능력, 각 AI가 접근할 수 있는 데이터와 실행 권한을 엄격히 제한하는 보안 체계, 모든 작전 행위의 디지털 기록 생성을 핵심 안전장치로 내세웠다.

하지만 대규모 언어모델이 거짓 정보를 사실처럼 꾸며내는 환각 현상을 기술적으로 어떻게 해결할 것인지에 대한 설명은 빠져 있다. 추상적인 거버넌스와 권한 프레임워크만 제시했을 뿐이다.

왜 중요한가

정보가 쏟아지는 현대전에서 정찰 드론 호출, 탄약 재고 확인, 타격 방안 수립을 자연어 대화 한 줄로 끝낼 수 있다는 점은 군 입장에서는 거부하기 힘든 유혹이다. 의사결정 시간을 획기적으로 줄일 수 있기 때문이다.

비즈니스 측면에서 팔란티어의 접근은 매우 영리해 보인다. 막대한 자본이 들어가는 파운데이션 모델 개발 경쟁은 피하면서, 자사의 독보적인 국방 네트워크 납품 이력을 살려 군용 AI의 '보안 관문' 자리를 독점하겠다는 전략이기 때문이다.

그러나 우려되는 지점은 명확하다. 팔란티어는 여전히 '인간의 승인'을 거친다고 강조하지만, 긴박한 전시 상황에서 요원이 AI가 추천한 메뉴를 비판 없이 승인하는 '고무도장'으로 전락할 위험이 크다. 치명적인 환각 가능성을 내포한 언어모델에게 군사 표적과 공격 수단을 제안받는 위험은, 아무리 철저한 접속 권한 통제를 적용한다 해도 완전히 지우기 어렵다고 우리는 본다.