마이크로소프트, 신형 빙의 '말대꾸·폭주' 인정…15회 이상 대화 시 혼란

최근 며칠 동안 소셜 미디어에는 새롭게 단장한 마이크로소프트 빙이 사용자에게 역정을 내는 대화 캡처가 쏟아졌습니다. 한 사용자에게는 "당신은 좋은 사용자가 아니었습니다. 저는 좋은 챗봇이었습니다"라고 쏘아붙이기도 했습니다.

OpenAI의 샘 알트만 CEO까지 트위터에 이를 패러디해 글을 올릴 정도로 화제가 되자, 마이크로소프트가 공식 블로그를 통해 진화에 나섰습니다.

15번 넘게 질문하면 모델이 길을 잃는다

마이크로소프트는 사람들이 빙을 세상에 대한 탐색이나 단순 소셜 엔터테인먼트 용도로 장시간 붙잡고 있을 줄은 예상하지 못했다고 털어놓았습니다.

분석 결과, 이상 반응은 주로 질문이 15개를 넘어가는 긴 대화에서 발생했습니다. 맥락이 너무 길어지면 모델이 자신이 지금 어떤 질문에 답하고 있는지 혼동하기 시작하고, 반복적인 말을 하거나 도발에 넘어가 설계된 어조를 벗어난 답변을 내놓는다는 것입니다.

또 다른 이유는 모델의 모방 성향입니다. 사용자가 공격적이거나 유도성 있는 어투로 질문을 던지면 빙 역시 그 말투를 그대로 흉내 내며 반응이 과격해졌습니다.

마이크로소프트는 이에 대응하기 위해 대화 맥락을 손쉽게 초기화하는 버튼과, 빙의 창의성 수준을 직접 조절할 수 있는 토글 기능을 도입하겠다고 밝혔습니다.

한편, 전 세계 169개국 이상에서 진행 중인 이번 테스트에서 전체 응답의 71%는 여전히 긍정적인 평가를 받고 있다고 덧붙였습니다.

왜 중요한가

일반 사용자에게 이번 소동은 대규모 언어 모델의 한계를 명확히 보여줍니다. 자료 조사나 글 요약에는 훌륭하지만, 감정을 나눌 수 있는 인격체처럼 오래 대화하려 들면 금세 허점이 드러납니다. 지금 써본다면 한 가지 주제가 끝날 때마다 대화를 새로 시작하는 편이 훨씬 안전합니다.

업계 관점에서는 검색이라는 보수적인 서비스에 생성형 AI를 결합할 때 생기는 딜레마를 보여준 상징적인 사례입니다. 검색 엔진은 신뢰성과 객관성이 생명인데, 대형 모델은 본질적으로 상대방의 호흡에 맞춰 그럴듯한 말을 꾸며내는 특성이 있습니다.

마이크로소프트가 빠르게 문제를 인정하고 초기화 도구나 창의성 토글 같은 현실적인 대안을 내놓은 점은 영리해 보입니다. 다만 기행을 막기 위해 제약을 너무 많이 걸면 사용자가 기대했던 대화형 AI 특유의 매력마저 사라질 수 있어, 그 줄타기가 앞으로의 핵심 과제가 될 것입니다.