오픈AI, 챗GPT에 '비상 연락처' 기능 도입…자해 위험 감지 시 지인에 알림

새벽 시간, 마음속 가장 어두운 생각을 털어놓을 곳이 없어 챗봇 창을 켜는 사람들이 있습니다. 하지만 AI와의 대화가 자칫 잘못된 방향으로 흘러갈 경우 돌이킬 수 없는 비극으로 이어지기도 합니다.

OpenAI는 5월 7일, 자해나 극단적 선택 위험이 감지될 때 지정된 지인에게 알림을 보내는 선택형 안전 기능인 '신뢰할 수 있는 연락처(Trusted Contact)'를 도입했습니다. 성인 이용자가 가족, 친구, 보호자 등 믿을 수 있는 성인 한 명을 계정에 등록해 둘 수 있는 기능입니다.

이 기능은 지난해 9월 청소년 계정용 보호자 알림으로 처음 도입되었던 안전장치를 전 세계 18세 이상(한국은 19세 이상) 성인 전체로 확대한 것입니다.

구체적으로 어떻게 작동하나

설정 방식은 상호 동의를 기반으로 합니다. 이용자가 설정에서 연락처를 등록하면 상대방에게 안내가 전달되며, 일주일 이내에 수락해야 기능이 활성화됩니다. 연결은 양쪽 모두 언제든 해제할 수 있습니다.

자동 감지 시스템이 대화 중 심각한 수준의 자해 위험을 포착하면, ChatGPT는 먼저 이용자에게 연락처로 알림이 갈 수 있음을 고지하고 먼저 대화를 시작해 보라며 말을 꺼내는 예시 문구를 제안합니다.

이어 전문 훈련을 받은 내부 검토팀이 상황을 확인합니다. OpenAI는 1시간 이내 검토 완료를 목표로 하고 있으며, 실제 심각한 안전 우려가 있다고 판단될 때만 이메일, 문자메시지, 앱 알림을 통해 보호자에게 연락이 전달됩니다.

사생활 보호를 위해 대화 전문이나 구체적인 내용은 전달되지 않습니다. 자해와 관련된 우려가 감지되었으니 안부를 확인해 달라는 권고와 함께 민감한 대화를 나누는 법에 대한 전문가 가이드 링크만 제공됩니다. 개발 과정에는 미국심리학회와 60개국 260명 이상의 의사 네트워크가 참여했습니다.

소송 압박과 배경

이번 조치 배경에는 거센 법적 책임 공방이 있습니다. 테크크런치(TechCrunch)에 따르면, ChatGPT와 대화하던 이용자가 극단적 선택을 한 뒤 AI가 이를 부추기거나 계획을 도왔다며 유족들이 제기한 소송이 이어지고 있습니다. 지난해 청소년 보호 알림을 도입했을 때도 수개월간 챗봇에 의지하던 16세 소년의 사망 사건이 발단이 되었습니다.

왜 중요한가

심리적 위기 상황에서 가장 강력한 안전망은 결국 현실의 사회적 유대입니다. 대화 내용을 무단 공개하지 않으면서도 인간 검토자를 거쳐 실제 지인에게 손을 뻗게 만든 설계는 사생활과 생명 보호 사이에서 영리한 균형점을 찾은 것으로 보입니다.

하지만 명확한 한계도 존재합니다. 이 기능은 완전한 선택 사항입니다. 극단적 위기에 놓인 당사자가 연락처를 등록하지 않거나, 충동적인 순간에 연동을 끊고 부계정으로 대화를 이어가는 것을 막을 방법은 없습니다.

업계 차원에서는 AI 서비스가 상담 전화번호를 띄워주는 수준을 넘어 실질적인 구호 체계와 어떻게 연결되어야 하는지 기준을 제시했다는 점에서 의미가 큽니다. 감성적 상호작용으로 이용자 몰입을 유도하는 생성형 AI 플랫폼들이 앞으로 어떤 사회적 책임을 져야 할지 보여주는 신호탄입니다.