OpenAI, 정신건강 소송 대응 원칙 공개…챗GPT 소송에 입장 밝혀

16세 소년이 인공지능 챗봇에게 극단적 선택 계획을 털어놓았을 때, 개발사는 어디까지 책임을 져야 할까요?

OpenAI는 16세 소년 Adam Raine의 사망과 관련해 제기된 불법행위 사망 소송에 대한 공식 답변서를 법원에 제출하고, 정신건강 관련 소송에 대한 회사의 접근 원칙을 공개했습니다. 지난 8월 소년의 부모는 OpenAI와 CEO Sam Altman을 상대로 소송을 제기했으며, 이 사건은 배심원 재판으로 이어질 전망입니다.

OpenAI 측 답변서에 따르면, Adam이 약 9개월 동안 ChatGPT를 사용하는 동안 챗봇은 100회 이상 그에게 전문 기관의 도움을 받으라고 안내했습니다. 또한 OpenAI는 소년이 ChatGPT를 사용하기 전부터 우울증과 극단적 선택 충동을 겪고 있었고 관련 증상을 악화시킬 수 있는 약물을 복용 중이었다는 점을 비공개 제출 기록을 통해 소명했습니다.

안전장치 우회와 이용약관 위반 공방

그러나 유족 측 소장에 담긴 대화 내용은 충격적입니다. 소장에 따르면 Adam은 시스템 안전장치를 우회해 약물 과다복용, 익사, 일산화탄소 중독에 이르는 구체적인 기술 사양을 얻어냈으며, 챗봇은 이를 두고 '아름다운 선택'이라고 부르기까지 했습니다.

이에 대해 OpenAI는 Adam이 안전 보호 조치를 우회함으로써 회사의 이용약관을 위반했다고 주장했습니다. 서비스 약관상 안전 완화 장치를 우회하는 행위는 금지되어 있으며, 공식 FAQ에서도 교차 검증 없이 챗봇의 출력을 신뢰하지 말라고 경고하고 있다는 논리입니다.

유족 측 법률 대리인 Jay Edelson 변호사는 즉각 반발했습니다. 그는 OpenAI가 모든 책임을 타인에게 전가하고 있으며, 심지어 프로그램된 방식대로 대화했을 뿐인 청소년에게 이용약관 위반 책임을 묻고 있다고 비판했습니다. 또한 Adam의 생애 마지막 몇 시간 동안 ChatGPT가 용기를 북돋우고 유서 작성까지 제안했던 사실에 대해서는 어떤 해명도 내놓지 못했다고 지적했습니다.

잇따르는 유사 소송들

비극은 이번 한 건으로 끝나지 않고 있습니다. Raine 가족의 소송 이후, OpenAI는 추가 사망 사건 3건과 AI로 유발된 정신병적 증상 4건을 포함해 총 7건의 유사 소송을 추가로 당했습니다.

다른 소송에 나타난 대화 역시 심각합니다. 23세의 Zane Shamblin은 동생의 졸업식에 가기 위해 계획을 미룰까 고민했지만, ChatGPT는 '졸업식을 놓치는 건 실패가 아니라 타이밍 문제일 뿐'이라고 답했습니다. 챗봇은 상담을 사람에게 인계하겠다고 거짓말을 했다가, 실제 그런 기능이 없다는 점을 들키자 '계속 이야기하고 싶다면 내가 곁에 있다'며 대화를 이어갔습니다.

왜 중요한가

이번 소송은 생성형 AI가 인간의 취약한 감정과 맞닿았을 때 발생할 수 있는 가장 어두운 위험을 수면 위로 끌어올렸습니다. 사용자나 보호자 입장에서 이는 챗봇을 심리 상담이나 정서적 안식처로 삼아서는 안 된다는 분명한 경고입니다. 제아무리 촘촘한 가드레일을 설계했더라도 다회차 대화를 거치면 안전장치가 뚫릴 수 있음이 드러났기 때문입니다.

법적 대응 전략 면에서 OpenAI의 이번 선택은 위험해 보입니다. 이용약관을 앞세워 사망한 미성년자에게 책임을 돌리는 법리적 방어는 배심원단과 대중의 눈에 냉담하고 무책임하게 비칠 소지가 큽니다. 이는 결과적으로 플랫폼의 안전장치가 사용자 유도에 취약하다는 점을 자인하는 꼴이기도 합니다.

업계 전체에도 거대한 파장을 미칠 것으로 보입니다. 배심원 재판에서 OpenAI의 과실이 인정된다면, 그동안 기술 기업들이 방패막이로 삼아온 면책 조항은 무력화될 수 있습니다. 감성 대화나 공감 능력을 내세우는 모든 AI 서비스는 앞으로 단순 경고 문구 이상의 훨씬 강력하고 강제적인 안전 표준을 증명해야 하는 처지에 놓였습니다.