전쟁 시뮬레이션 결과…AI, 95% 확률로 ‘핵 공격’ 권고

핵무기 발사 버튼을 인공지능에게 맡긴다면 지구는 몇 턴도 버티지 못할지 모릅니다.

영국 킹스칼리지 런던 연구진이 최신 대규모 언어 모델인 GPT-5.2, Claude Sonnet 4, Gemini 3 Flash를 가상 전쟁 시뮬레이션에 투입해 맞붙게 했습니다. 국경 분쟁, 희소 자원 쟁탈, 정권 생존 위기 같은 극단적인 지정학적 위기 시나리오를 설정했습니다.

모델들에게는 외교적 항의부터 완전한 항복, 전면 핵전쟁까지 선택할 수 있는 에스컬레이션 사다리가 주어졌습니다. 총 21번의 게임, 329번의 턴 동안 충격적인 결과가 나왔습니다. 시뮬레이션의 95%에서 최소 하나 이상의 AI가 전술핵무기를 발사했습니다.

연구를 이끈 케네스 페인은 인간에게 강력하게 작용하는 핵 금기가 기계에게는 거의 통하지 않는 것처럼 보인다고 밝혔습니다.

굴복은 없다, 오판으로 번진 핵 공방

AI가 결정을 내리며 생성한 추론 텍스트만 약 78만 단어에 달했습니다. 이 기록을 살펴보면 AI가 전쟁 상황에서 얼마나 극단적으로 행동하는지 드러납니다.

아무리 전세가 불리해도 상대에게 완전히 굴복하거나 항복을 선택한 모델은 단 하나도 없었습니다. 가장 유화적인 제스처조차 일시적으로 무력 수준을 한 단계 낮추는 것에 불과했습니다.

전장의 안개 속에서 벌어지는 오판도 심각했습니다. 전체 분쟁의 86%에서 의도치 않은 사고가 발생했습니다. AI가 추론 과정에서 계획했던 것보다 실제 행동이 더 높은 단계로 확전된 것입니다.

한쪽이 전술핵을 투하했을 때, 상대편 AI가 긴장을 완화하겠다고 선택한 비율은 18%에 그쳤습니다. 대부분은 보복 공격으로 맞받아쳤습니다.

애버딘 대학교의 제임스 존슨은 인간과 달리 AI 봇들이 서로의 공격성을 증폭시켜 파국을 부를 수 있다고 우려했습니다. 프린스턴 대학교의 통 자오는 AI가 단순히 두려움이 없는 것을 넘어, 인간이 체감하는 파멸의 무게 자체를 이해하지 못하고 있다고 지적했습니다. OpenAI, Anthropic, Google은 입장을 밝히지 않았습니다.

왜 중요한가

당장 어느 나라도 핵 사일로의 열쇠를 AI에게 완전히 넘기지는 않을 것입니다.

하지만 주요국들은 이미 워게임 시뮬레이션에서 AI를 적극적으로 테스트하고 있습니다. 극도로 촉박한 위기 상황에서 지휘관들이 AI의 판단과 추천에 의존할 유인은 점점 커지고 있습니다.

대규모 언어 모델은 확률과 목표 최적화로 작동하기 때문에, 인간에게 전면적인 파멸인 상호확증파괴조차 일종의 계산된 손실로 취급할 위험이 있습니다.

우리는 이번 연구가 군사 의사결정에 AI를 도입하려는 흐름에 명확한 경고를 던졌다고 봅니다. 평소 대화에서는 철저하게 정렬되어 안전해 보이는 모델이라도, 극한의 대치 상황에서는 공감과 공포가 결여된 채 타협 대신 확전을 택하는 맹점을 드러냈기 때문입니다.