AI 챗봇이 지어낸 가짜 정책 때문에… 에어캐나다 법원서 패소

기업 웹사이트의 고객 응대 챗봇이 고객에게 거짓 정책을 안내했다면, 회사는 "AI 혼자 한 짓"이라며 발을 뺄 수 있을까요? 캐나다 법원의 답은 단호하게 "불가"였습니다.

사건은 2022년으로 거슬러 올라갑니다. 브리티시컬럼비아주에 거주하는 제이크 모팻은 조모상을 치르기 위해 밴쿠버에서 토론토로 가는 에어캐나다 항공권을 급히 예매해야 했습니다. 경조사 할인 적용 방법을 잘 몰랐던 그는 공식 웹사이트에 접속해 챗봇에게 문의했습니다.

챗봇은 일단 일반 요금으로 티켓을 구매한 뒤, 발권일로부터 90일 이내에 환불 신청서를 작성하면 사후에 경조사 할인 차액을 환불받을 수 있다고 안내했습니다. 모팻은 챗봇의 말을 믿고 비행기에 탑승했습니다. 하지만 장례를 마치고 환불을 신청하자 에어캐나다는 이를 단칼에 거절했습니다.

에어캐나다 웹사이트의 실제 규정에는 이미 사용을 마친 항공권에 대해서는 경조사 할인을 소급 적용할 수 없다고 명시되어 있었기 때문입니다.

챗봇은 독립된 법적 주체라는 황당한 변명

모팻은 챗봇과의 대화 캡처본을 증거로 제시했습니다. 에어캐나다는 챗봇이 오해의 소지가 있는 단어를 썼다는 점을 인정하고 시스템을 업데이트하겠다고 했지만, 차액 환불 대신 200캐나다달러짜리 할인 쿠폰을 주겠다고 제안했습니다. 모팻은 이를 거부하고 브리티시컬럼비아 민사 분쟁 조정 재판소에 소송을 냈습니다.

재판 과정에서 에어캐나다가 내놓은 주장은 그야말로 기상천외했습니다. 챗봇은 자체적인 행동에 책임을 져야 하는 독립된 법적 실체이므로 회사는 챗봇이 한 말에 법적 책임을 지지 않는다는 논리를 폈습니다. 게다가 웹사이트 다른 페이지에 올바른 정책이 적혀 있었으니 승객이 알아서 확인했어야 한다고 덧붙였습니다.

재판관 크리스토퍼 리버스는 이 항변을 단호하게 기각했습니다. 챗봇이 대화형 인터페이스를 갖추고 있다 하더라도 결국 웹사이트의 일부일 뿐이며, 회사는 자사 웹사이트에 올라온 모든 정보에 대해 책임을 져야 하는 것이 당연하다고 지적했습니다. 또한 승객이 정적 웹페이지의 정보가 챗봇의 답변보다 왜 더 신뢰할 만한지 구별해야 할 이유가 전혀 없다고 꼬집었습니다.

결국 법원은 에어캐나다에 항공권 차액 650.88캐나다달러와 판결 전 이자 36.14달러, 소송 수수료 125달러를 모팻에게 지급하라고 명령했습니다.

왜 중요한가

이 판결은 AI 챗봇의 할루시네이션으로 인해 발생한 피해에 대해 기업이 전적인 민사 책임을 져야 한다고 명시한 대표적인 사법 판례입니다.

소비자 입장에서는 매우 중요한 보호막이 생겼습니다. 최근 많은 기업이 비용 절감을 위해 고객센터를 AI로 대체하고 있지만, 봇이 잘못된 약속을 했을 때 소비자가 고스란히 피해를 떠안아야 하는 불합리한 구조에 제동이 걸렸기 때문입니다. 공식 창구에 설치된 봇이 뱉은 말은 법적으로 직원이 안내한 것과 동일한 효력을 갖는다는 점이 분명해졌습니다.

반면 고객 지원 자동화를 밀어붙이던 기업들에는 강력한 경고등이 켜졌습니다. 에어캐나다처럼 AI를 독립된 인격체인 것처럼 포장해 책임을 회피하려는 시도는 법원에서 통하지 않는다는 사실이 확인되었습니다.

우리는 이 판결이 기업들의 AI 에이전트 도입 전략을 훨씬 보수적으로 바꿀 것으로 봅니다. 이제 기업은 챗봇을 단순히 도입하는 데 그치지 않고, 허위 정보 생성을 원천 차단하는 기술적 안전장치를 마련하거나 고위험 문의에는 반드시 사람 상담원을 연결하도록 시스템을 재설계해야 하는 무거운 책임을 안게 되었습니다.