'콜 오브 듀티', 음성 채팅 검열에 AI 도입…욕설·혐오 발언 실시간 감지

콜 오브 듀티(Call of Duty)의 음성 채팅은 게이머들 사이에서 거친 분위기로 악명이 높습니다. 유저층이 게임계에서 가장 공격적이라는 설문조사 결과가 있을 정도이며, 유저 간의 말다툼이 특공대(SWAT) 출동 사태로까지 번진 적도 있습니다.

액티비전(Activision)이 수년 동안 골머리를 앓아온 이 문제를 해결하기 위해 인공지능(AI)을 실전에 투입합니다.

액티비전은 음성 모니터링 기술 기업 모듈레이트(Modulate)와 손잡고, AI 기반 음성 감정 시스템인 톡스모드(ToxMod)를 게임 내에 도입한다고 발표했습니다.

북미 지역에서는 오늘부터 콜 오브 듀티: 모던 워페어 II와 콜 오브 듀티: 워존을 대상으로 베타 테스트가 시작되었습니다. 오는 11월 10일 신작 콜 오브 듀티: 모던 워페어 III 출시와 함께 글로벌 시장에 정식 적용될 예정이지만, 보도자료에 따르면 아시아 지역은 이번 출시 대상에서 제외되었습니다.

단순한 텍스트 변환을 넘어 감정까지 분석

기존의 음성 필터링은 단순히 소리를 텍스트로 바꾸고 금지 단어를 걸러내는 방식이 대부분이었습니다. 하지만 게임 중 친구끼리 장난으로 주고받는 험한 말과 실제 악의적인 괴롭힘은 맥락이 완전히 다릅니다.

모듈레이트의 최고경영자는 최근 인터뷰에서 톡스모드가 단순한 음성 변환을 넘어선다고 설명했습니다. 플레이어의 감정 상태, 목소리 톤, 음량까지 전체 맥락을 함께 분석해 장난과 유해한 발언을 구분해냅니다.

다만 AI가 유저를 즉각 제재하는 것은 아닙니다.

현재 단계에서 톡스모드는 유해 행동을 실시간으로 감지하고 분류한 뒤, 앞뒤 맥락이 담긴 보고서를 액티비전의 인간 관리자에게 전달하는 역할만 맡습니다. 최종 제재 여부는 사람이 직접 결정합니다.

음성 인식 기술이 인종이나 억양에 따라 편향을 보일 수 있다는 연구 결과들이 있는 만큼, 인간의 개입은 억울한 피해를 막기 위한 핵심적인 안전장치입니다.

왜 중요한가

텍스트 채팅 필터링은 이미 보편화되었지만, 실시간 음성 대화의 맥락을 읽어내는 것은 게임 업계의 오랜 난제였습니다.

일반 게이머 입장에서는 진입 장벽이 낮아지는 계기가 될 수 있습니다. 음성 채팅의 혐오 발언 때문에 마이크를 끄고 플레이하던 유저들이 보다 쾌적하게 소통할 수 있는 환경이 마련되는 셈입니다.

그러나 기술적 한계에 대한 우려는 여전합니다. 치열한 교전 중에 터져 나오는 격한 외침을 알고리즘이 공격적 언사로 오인할 가능성을 배제하기 어렵습니다. 이번 글로벌 배포에서 아시아 지역이 제외된 것 역시 복잡한 다국어 환경과 다양한 억양을 처리하는 데 기술적 부담이 따랐음을 보여줍니다.

액티비전이 AI에게 즉각적인 처벌 권한을 주지 않고 인간 검토자를 돕는 보조 도구로 한정한 것은 매우 현실적이고 현명한 선택으로 보입니다. 오탐지로 인한 대규모 유저 반발을 피하면서도 운영팀의 피로도를 획기적으로 줄일 수 있기 때문입니다. 이번 시도가 성과를 낸다면 다른 대형 멀티플레이어 슈팅 게임들도 비슷한 음성 AI 감시 체계를 빠르게 도입할 것으로 전망됩니다.