아마존 차세대 알렉사 난항: 환각률 제로와 응답 지연 해결이 발목

집 안의 음성 비서가 똑똑해진다는 건 반가운 일이지만, 만약 그 비서가 뻔뻔하게 거짓말을 늘어놓는다면 조명 제어나 일정 확인, 심지어 아이들 동화 구연까지 맡길 수 있을까요?

아마존은 원래 2024년 10월 생성형 AI로 구동되는 새로운 알렉사(Alexa)를 선보일 예정이었으나 일정이 밀렸습니다. 파이낸셜 타임스(FT)의 최근 보도에 따르면, 아마존은 성능이 대폭 강화된 알렉사를 출시하기 위해 여전히 몇 가지 심각한 기술적 난관을 해결해야 하는 상황입니다.

환각 현상은 ‘제로’에 가까워야 한다

가장 큰 걸림돌은 바로 생성형 AI가 틀린 정보를 사실처럼 만들어내는 환각(Hallucination) 문제입니다.

아마존의 범용인공지능(AGI) 팀을 이끄는 로힛 프라사드(Rohit Prasad)는 FT와의 인터뷰에서 알렉사의 환각 발생률이 거의 제로에 수렴해야 한다고 말했습니다. 사용자들이 일상 속에서 온종일 알렉사와 대화하기 때문에, 이를 잡지 못하면 가짜 정보가 여과 없이 거실에 울려 퍼질 수밖에 없습니다.

프라사드는 환각 문제가 여전히 업계 전체의 난제임을 인정하면서도 팀이 전력을 다하고 있다고 덧붙였습니다. 또한 음성 명령 직후 즉각적인 피드백을 기대하는 사용자의 눈높이에 맞추기 위한 응답 지연 시간 단축도 필수 과제입니다.

한 아마존 현직 직원은 신형 알렉사가 조만간 출시되기는 어렵다고 전했습니다. 거의 100%에 달하는 가동 안정성을 확보해야 하고, 아동 안전 필터를 탑재해야 하며, 다양한 연동 기능에 대한 추가 테스트도 남아 있기 때문입니다.

방대한 레거시 연동과 하이브리드 모델의 부담

프라사드는 알렉사를 최종 목적지까지 이끄는 ‘라스트 마일’ 작업이 정말 어렵다고 털어놓았습니다. 알렉사에 연결된 서비스의 수가 상상을 초월할 정도로 방대해 그동안 그 규모를 과소평가하기도 했다는 설명입니다.

새로운 AI 비서는 수백 개의 서드파티 앱 및 외부 서비스와 완벽하게 연동되어 작동해야만 합니다.

신형 알렉사는 앤트로픽의 클로드(Claude)와 아마존 자체 개발 모델인 아마존 노바(Nova)를 결합해 구동될 것으로 알려졌습니다. 또한 아마존의 수익 창출을 위해 유료 구독 모델로 제공될 예정이지만, 아직 구체적인 출시일은 잡히지 않았습니다.

왜 중요한가

기존 에코(Echo) 기기를 사용하는 소비자 입장에서는 당장 기대감을 높이기보다 기존의 무료 버전을 그대로 이용해야 하는 상황입니다. 향후 유료 구독 서비스로 출시된다고 해도, 환각이 완전히 제거되고 즉각 반응하는 수준에 도달하지 못한다면 매달 비용을 지불할 유인은 크지 않아 보입니다.

업계 측면에서 보면 이번 지연은 화면 속 챗봇을 거실의 앰비언트 하드웨어로 옮겨오는 작업이 얼마나 까다로운지 보여줍니다. 스마트홈 비서는 아주 짧은 지연 시간과 극도로 높은 신뢰성을 요구하는데, 이는 거대언어모델(LLM)의 태생적 취약점과 정면으로 충돌합니다. 애플이나 구글이 시리와 어시스턴트를 개편하면서 겪는 정체와도 맥락이 같습니다.

우리는 환각을 거의 제로 수준으로 낮출 때까지 출시를 미루는 아마존의 접근이 타당하다고 판단합니다. 음성 비서가 가짜 정보를 제공할 경우 하드웨어 브랜드에 미치는 타격이 치명적이기 때문입니다. 다만 외부의 클로드와 자체 노바 모델을 혼합하면서 수백 개의 레거시 기능까지 지연 없이 묶어내겠다는 목표는, 아마존 스스로를 지나치게 복잡한 공학적 미로에 가둔 꼴이 될 수도 있습니다.