3M 폭발사고 증인, ChatGPT로 보고서 작성…"과실 0%로 만들라" 프롬프트 발각

거액의 소송에서 수억 원대 자문료를 주고 고용한 전문 감정인이 내놓은 보고서의 90%가 ChatGPT의 손에서 나왔고, 심지어 프롬프트에 책임이 전혀 없음을 입증하라는 지시가 적혀 있었다면 결과는 뻔합니다.

미국 휴스턴에서 발생한 치명적인 공장 폭발 참사 재판에서 다국적 기업 3M이 고용한 엔지니어링 전문가가 바로 이런 황당한 행동을 저질렀습니다.

이 사실은 증거개시 절차를 통해 낱낱이 공개되었고, 결국 3M에 6100만 달러 규모의 거액 배상 책임이 인정되는 결정타가 되었습니다.

AI에게 "3M의 과실이 0%임을 증명하라" 주문

이번 소송은 2020년 휴스턴 왓슨 그라인딩 공장에서 일어난 대규모 폭발 사고에서 비롯되었습니다. 당시 참사로 3명이 목숨을 잃고 인근 주택 약 200채가 파괴되었습니다.

미국 화학안전조사위원회 조사에 따르면 노후화되고 압착이 불량한 고무 용접 호스에서 가연성 가스가 누출된 것이 폭발 원인이었습니다. 피해 주민 수십 명은 3M이 공장의 가스 감지 시스템을 제대로 정비하지 않았다며 책임을 묻는 소송을 제기했습니다.

3M은 방어를 위해 나이트호크 엔지니어링 소속 전문 증인 조시 오텐리스를 고용해 전문 감정 보고서를 제출했습니다.

하지만 드러난 진실은 충격적이었습니다. 그가 제출한 방어 보고서의 85%에서 90%를 ChatGPT가 대필한 것으로 밝혀졌기 때문입니다.

더 큰 문제는 프롬프트였습니다. 그는 ChatGPT에 3M의 주의 의무 기준을 옹호하는 탁월한 보고서를 작성해 달라고 요청하면서, 이번 폭발 사고에서 3M의 과실이 0%임을 보여주어야 한다고 노골적으로 지시했습니다.

350쪽 대화 기록이 고스란히 법정에 노출

증거개시 절차를 통해 오텐리스가 ChatGPT와 나눈 350쪽에 달하는 전체 대화 기록이 고스란히 드러났습니다.

원고 측 변호인 윌 모이는 이를 놓치지 않고 3M 측 전문가인 오텐리스를 법정에 직접 소환해 배심원단 앞에서 프롬프트 내용을 조목조목 추궁했습니다.

결과는 참패였습니다. 배심원단은 총 6100만 달러의 손해배상을 평결하며 3M에 30%의 사고 책임을 부과했습니다.

법정에서 가짜 판례를 지어내던 생성형 AI의 일탈이 이제는 형사 및 민사 소송의 핵심 감정 영역까지 침투했다가 꼬리가 잡힌 셈입니다.

왜 중요한가

우리는 이번 판결이 법정 증거와 전문직 업무에서 AI를 다루는 방식에 강력한 경종을 울렸다고 봅니다.

전문 감정인의 가치는 독립적이고 객관적인 과학적 판단에 있습니다. 그러나 프롬프트에서 이미 특정 기업의 과실이 0%라는 결론을 정해두고 대필을 시킨 순간, 해당 보고서는 기술적 증거가 아닌 기업의 핑계로 전락하게 됩니다.

특히 주목할 점은 소송 환경에서 AI와의 대화 기록이 완전히 열람 가능한 증거 대상이 된다는 사실입니다. 사적인 작업 공간이라 착각하고 남긴 프롬프트가 법정에서는 자사를 겨누는 가장 위험한 부메랑이 될 수 있습니다.

기업 입장에서도 수백억 원의 법적 리스크가 걸린 사건에서 외부 전문가의 무분별한 AI 의존도를 걸러내지 못하면 뼈아픈 대가를 치르게 됩니다. 앞으로 기업과 로펌들은 외부 전문가를 선임할 때 AI 프롬프트 사용 여부를 검증하고 제한하는 엄격한 기준을 세울 수밖에 없을 것으로 보입니다.