X, 그록 기반 계정 요약 기능 도입했으나 잦은 환각으로 혹평

일론 머스크는 xAI를 출범한 이후 줄곧 소셜 플랫폼 X를 자사 인공지능 모델 그록의 테스트 베드로 활용해 왔습니다.

단순한 챗봇과 트렌드 요약에 이어, 이번에는 웹 버전 유료 구독자를 대상으로 '이 계정에 대해 더 알아보기(More About This Account)'라는 새 기능을 선보였습니다. 사용자 아이디나 이름 위에 마우스를 올리면 버튼이 뜨고, 이를 누르면 그록이 해당 계정이 어떤 성격인지 몇 문장으로 요약해 주는 방식입니다.

아이디어는 그럴듯하지만, 실제 결과물은 기대 이하를 넘어 엉망에 가깝습니다.

브런치 계정으로 둔갑한 테크 에디터

테크크런치가 직접 기능을 테스트해 본 결과, 그록의 요약은 뻔한 소리를 늘어놓거나 완전히 틀린 정보를 지어냈습니다.

동료 기자들을 조회했을 때는 어떤 글을 올리는지 지극히 원론적인 문장 몇 개를 내놓는 데 그쳤습니다. 심지어 캐나다 관련 글을 거의 쓰지 않는 한 동료를 느닷없이 '캐나다 전문가'로 둔갑시키는 일도 벌어졌습니다.

또 다른 테크크런치 에디터는 난데없이 '브런치 소개 계정'으로 분류되었고, 인도 에듀테크 스타트업 임원을 조회하자 이름이 같은 유명 크리켓 선수 정보가 출력되기도 했습니다.

X 플랫폼 측도 그록 1.5가 초기 기능인 만큼 실수가 있을 수 있으니 교차 검증하라는 안내 문구를 띄워 두고 있기는 합니다. 하지만 환각 증상이 없더라도 프로필 소개글만 3초 훑어보면 알 수 있는 정보 외에는 아무런 실질적 가치를 주지 못했습니다.

왜 중요한가

유료 구독자 입장에서 낯선 상대를 파악하기 위해 이 기능을 쓸 이유는 전혀 없습니다. 모델이 멋대로 지어낸 환각에 낚이기보다는 차라리 직접 프로필과 고정 게시물을 확인하는 편이 훨씬 빠르고 정확합니다.

업계 관점에서 보면 실망감은 더 큽니다. X 플랫폼의 방대한 실시간 데이터는 원래 그록이 다른 빅테크 LLM들과 차별화되는 가장 강력한 무기였습니다. 그런데 정작 제 안방인 X 계정의 프로필 요약과 동명이인 구분조차 제대로 해내지 못한다는 점은 검색 증강과 엔티티 식별 기술의 한계를 고스란히 드러냅니다.

사용자 인터페이스 곳곳에 AI를 자연스럽게 녹여내려는 시도 자체는 영리하다고 봅니다. 하지만 소셜 미디어에서 계정 정체성은 개인의 평판과 직결됩니다. 멀쩡한 사람을 엉뚱한 직업이나 스포츠 선수로 둔갑시키는 덜 익은 기능을 굳이 유료 모델로 밀어붙이는 행보는 오히려 유료 사용자들의 신뢰를 갉아먹을 가능성이 큽니다.