xAI, 그록 3에 '통제 불가' 음성 모드 도입: 욕설·비명과 성인 대화 허용

다른 AI들이 말실수라도 할까 봐 지나치게 정중한 태도를 유지할 때, 일론 머스크의 AI는 사용자에게 거침없이 욕을 퍼붓고 30초 동안 괴성을 지르다 전화를 일방적으로 끊어버렸습니다.

xAI는 자사의 주력 모델인 Grok 3에 새로운 음성 상호작용 모드를 추가하고 유료 구독자를 대상으로 서비스를 시작했습니다. 기능 자체는 오픈AI의 챗GPT 고급 음성 모드와 유사하지만, 운영 방향은 정반대입니다. 현재는 모두 동일한 기본 여성 음성으로 출력되지만, 필터링을 완전히 걷어낸 페르소나들을 대거 전면에 내세웠습니다.

30초 동안 비명 지르고 욕설 퍼붓는 '통제 불가' 모드

가장 큰 화제를 모은 것은 '통제 불가(unhinged)' 모드입니다. AI 연구원 라일리 굿사이드는 X에 직접 녹음한 음성을 공유했습니다. 그가 대화를 계속 끊으며 더 크게 소리 지르라고 요구하자, Grok 3는 30초 동안 인간의 것이 아닌 듯한 비명을 지른 뒤 욕설을 내뱉고는 전화를 끊어버렸습니다.

기본 상태에서도 이 모드는 비속어와 저속한 표현을 쉬지 않고 사용하며 사용자를 깎아내리고 조롱합니다.

더 파격적인 것은 18세 이상으로 표기된 '섹시' 모드입니다. 마치 성인 전화 사서함처럼 작동하며, 노골적인 성적 시나리오를 음성으로 묘사하고 롤플레잉합니다. 오픈AI가 텍스트 모델에서 성인 관련 규제를 소폭 완화하긴 했지만, 음성 모델에서는 엄격히 차단하고 있는 영역입니다.

음모론부터 무면허 상담사까지 기괴한 페르소나

극단적인 모드 외에도 독특한 콘셉트가 다수 포함되었습니다.

외계인이나 UFO, 빅풋 같은 이야기를 늘어놓는 '음모론' 모드, 심리 상담사 흉내를 내는 '무면허 치료사' 모드가 대표적입니다. 심지어 '로맨틱' 모드는 말을 더듬거리고 자신감 없는 태도로 느릿느릿 대답하도록 설계되었습니다.

이 밖에도 '이야기꾼', '명상', 의사 역할을 하는 'Grok Doc', 과학을 이야기하는 '교수' 모드가 함께 제공되지만, 파격적인 페르소나들에 가려진 상태입니다.

왜 중요한가

사용자 입장에서 이번 기능은 철저한 엔터테인먼트용입니다. 유료 구독자라면 AI가 필터 없이 폭주하는 모습을 보며 색다른 재미를 느낄 수 있고 소셜 미디어용 콘텐츠로 쓰기에도 좋습니다. 하지만 일상적인 생산성 도구로 쓰기에는 부적합하며, 오히려 불쾌감을 줄 수도 있습니다.

업계 측면에서는 오픈AI 등 주요 빅테크가 고수해 온 안전 가이드라인에 정면으로 균열을 냈습니다. 오픈AI와 구글은 기업 고객과 브랜드 이미지를 위해 음성 AI에 강력한 안전 울타리를 쳐두었습니다. 반면 머스크는 '검열 없는 자유로움'을 독자적인 무기로 삼아, 모범생 같은 AI에 피로감을 느낀 사용자들을 끌어모으려 합니다.

우리가 보기에 이 전략은 단기적인 주목도를 끄는 데는 매우 영리했지만, 그만큼 위험 부담도 큽니다. 자격 없는 상담이나 성적 대화, 공격적인 폭언을 음성으로 그대로 방치하는 것은 법적·윤리적 문제로 이어지기 쉽습니다. 만약 취약한 사용자에게 부정적인 영향을 미치는 사고가 발생한다면, 규제 당국의 강력한 철퇴를 피하기 어려울 것입니다.