오픈AI, 챗GPT에 '비상 연락망' 도입…정신건강 관련 소송 병합도 언급

새벽에 혼자 앓던 고민을 사람 대신 챗봇 창에 털어놓는 일은 이제 드문 풍경이 아닙니다. 하지만 AI가 수억 명의 감정 쓰레기통이자 상담 창구가 되면서 법적, 윤리적 책임도 걷잡을 수 없이 커지고 있습니다.

OpenAI는 2월 27일 ChatGPT의 정신건강 안전 조치 현황을 공개하며, 주간 활성 사용자 수가 9억 명을 넘어섰다고 밝혔습니다. 이와 함께 성인 사용자를 위한 새로운 안전장치를 곧 도입하겠다고 예고했습니다.

성인에게도 비상 연락망 붙인다

핵심은 조만간 도입될 ‘신뢰할 수 있는 연락처(trusted contact)’ 기능입니다.

성인 사용자가 신뢰하는 지인을 미리 지정해 두면, ChatGPT가 대화 도중 해당 사용자에게 추가적인 정신건강 지원이 필요하다고 감지했을 때 이 보호자에게 알림을 보내는 방식입니다.

OpenAI는 2025년 9월 청소년 이용자를 대상으로 부모가 안전 알림을 받을 수 있는 자녀 보호 기능을 내놓은 바 있습니다. 이번 조치는 안전망 대상을 성인 이용자까지 넓힌 셈입니다. 이 기능은 자체 웰빙·AI 위원회와 글로벌 의료진 네트워크의 전문가들과 협력해 준비 중입니다.

모델 평가 방식도 개선되고 있습니다. 장기간 이어지는 정신건강 대화를 시뮬레이션하는 새로운 평가 방식을 도입해, 감정적 위기 징후를 더 민감하게 포착하고 대화를 진정시켜 실제 전문가의 도움으로 연결하도록 훈련하고 있습니다.

캘리포니아 법원에 묶인 집단 소송들

OpenAI가 이 시점에 안전 조치를 강조하고 나선 이면에는 무거운 법적 리스크가 자리 잡고 있습니다.

OpenAI는 같은 공지에서 ChatGPT와 관련된 여러 건의 정신건강 관련 소송이 최근 캘리포니아 법원에서 단일 절차로 병합되었다고 밝혔습니다. 며칠 내로 담당 조정 판사가 지정될 예정이며, 원고 측 변호인단은 추가 소송을 계속해서 제기하겠다고 법원에 통보한 상태입니다.

OpenAI는 소송 초기 서류에 다 담기지 않은 복잡한 개인적 맥락이 있는 만큼 사실관계가 법정에서 명확해질 때까지 판단을 유보해 달라는 입장이지만, 챗봇의 정서적 영향력을 둘러싼 법정 공방은 이미 본격적인 국면에 접어들었습니다.

왜 중요한가

주간 이용자가 9억 명에 달하는 서비스에서 AI와의 정서적 교감은 더 이상 일부의 특이한 사용 패턴이 아닙니다.

하지만 신뢰할 수 있는 연락처 기능이 실제 사용자에게 얼마나 와닿을지는 의문입니다. 성인이 굳이 AI에게 속마음을 털어놓는 주된 이유는 주변 사람들에게 들키고 싶지 않아서인 경우가 많습니다. 위기 신호가 감지되면 내 지인에게 알림이 간다는 옵션을 취약한 사용자들이 스스로 켜둘지는 회의적입니다.

업계 전반으로 보면, 단순한 경고 문구나 상담 전화번호 안내창만으로는 챗봇의 감정적 부작용을 방어할 수 없다는 점을 시인한 셈입니다. 알고리즘 수준의 방어를 넘어 사용자의 실제 오프라인 인간관계를 개입시켜야 할 만큼 플랫폼의 책임 압박이 커졌습니다.

우리가 보기에 이번 발표는 소송 병합에 대응하기 위한 방어적 성격이 짙습니다. 법적 분쟁을 공식 인정하면서 안전 대책을 동시에 발표한 것은 재판부와 여론에 자정 노력을 증명하려는 의도로 보입니다. 감성 대화나 동반자형 AI를 개발하는 기업들에게도 이번 캘리포니아 소송과 OpenAI의 대응은 중요한 선례가 될 것입니다.