구글 딥마인드, 판정 근거와 문장을 하이라이트하는 AI 탐지기 'DetectorScope' 공개

밤을 새워 쓴 글을 AI 판독기에 넣었을 때 아무런 설명 없이 'AI 작성 확률 90%'라는 결과가 뜨면 당황스러울 수밖에 없습니다. 기존 탐지기들의 가장 큰 문제는 억울한 오탐이 발생해도 왜 그런 판정이 나왔는지 전혀 알 길이 없다는 점이었습니다.

구글 딥마인드가 이 같은 한계를 해결하기 위해 오픈소스로 공개한 AI 텍스트 탐지 도구가 바로 DetectorScope입니다. 단순히 차가운 확률 수치만 던져주는 대신, 텍스트의 어떤 특성 때문에 AI로 판단했는지를 자연어로 설명하고 해당 단어와 문장을 원문에서 직접 하이라이트로 짚어줍니다.

블랙박스를 열어 증거를 찾아내다

DetectorScope의 핵심은 판정 과정을 감사할 수 있게 만드는 것입니다. 딥마인드 연구진은 Gemma-2-2b 기반 모델의 잔차 스트림에 희소 오토인코더를 적용해 이를 구현했습니다.

모델 내부의 복잡한 활성화 상태를 사람이 읽을 수 있는 명확한 언어적 특징들로 풀어낸 뒤, 검증된 특징들만 희소 선형 헤드를 거쳐 결론을 내리도록 설계했습니다. 최종 예측값은 이들 개별 특징의 기여도를 모두 합산한 명확한 결과물입니다.

사용자는 웹 데모에서 텍스트에 표시된 하이라이트 부분에 마우스를 올리기만 하면 됩니다. 그러면 특정 문구가 어떤 패턴으로 분류되었고, 그 패턴이 AI 판정에 얼마만큼의 가중치를 더했는지 직관적으로 확인할 수 있습니다.

해석 가능성과 정확도 사이를 조율할 수 있는 tau 매개변수도 제공합니다. tau 값을 높게 잡으면 설명이 매우 명확하고 검증된 특징들만 추려내어 판단 근거를 읽기 쉽게 만들고, 값을 낮추면 더 많은 특징을 허용해 판정 정확도를 끌어올립니다. 기본값인 0.85는 두 마리 토끼를 적절히 잡은 설정입니다.

근거를 대면서도 성능은 유지하다

보통 모델 내부를 들여다보며 해석 가능성을 높이려 하면 분류 정확도가 떨어지는 성능 페널티가 발생하곤 합니다.

하지만 COLING과 RAID 벤치마크 테스트 결과에 따르면, DetectorScope 파이프라인을 적용해도 성능 저하는 거의 없었으며 기존의 파인튜닝된 블랙박스 분류기와 대등한 성능을 보였습니다. 높은 설명 가능성 기준을 적용했을 때도 오탐률과 탐지율 모두 안정적으로 유지되었습니다.

이 프로젝트는 헝가리 부다페스트에서 열리는 EMNLP 2026에 채택되었습니다. 현재 전체 소스코드는 GitHub에 공개되어 있으며, PyPI를 통한 패키지 설치는 물론 Hugging Face Spaces에서 데모를 바로 체험해 볼 수 있습니다.

왜 중요한가

AI 텍스트 탐지는 교육 현장과 학술 출판, 콘텐츠 플랫폼 등에서 끊임없는 불신을 낳아 왔습니다. 검증할 수 없는 단일 확률 수치는 정당하게 글을 쓴 사람에게 억울한 누명을 씌우기 십상이었고, 이를 심사하는 관리자 역시 확신을 갖기 어려웠습니다.

DetectorScope의 등장은 일방적인 의심에 불과했던 AI 판독을 상호 검증 가능한 대화의 영역으로 끌어올렸다는 점에서 의미가 큽니다. 어떤 표현과 문장 구조가 문제가 되었는지 명확히 확인할 수 있게 되면서, 억울한 오탐에 대한 소명과 합리적인 검토가 가능해졌습니다.

업계 관점에서도 기계론적 해석 가능성 기술이 연구실의 장난감을 넘어 실제 제품 수준의 보안 감사 도구로 작동할 수 있음을 입증했습니다. 성능 손실 없이 투명성을 확보했다는 점은 향후 콘텐츠 검증 도구들이 나아가야 할 기준점을 제시합니다.

물론 탐지 기준이 훤히 드러나는 만큼 이를 역이용해 탐지를 교묘히 피해 가는 프롬프트 조작이 늘어날 수 있다는 구조적 한계는 남습니다. 하지만 적어도 이유도 모른 채 내려지던 밀실 판정에 비하면 훨씬 건강하고 신뢰할 수 있는 대안입니다.