서브스택, Pangram과 손잡고 AI 감지 기능 도입: 사람인 척 속이는 'Claudefishing' 방지

진심 어린 에세이를 다 읽고 감동받았는데, 알고 보니 프롬프트 하나로 뚝딱 만들어진 글이었다면 배신감이 들 수밖에 없습니다. 유료 뉴스레터 플랫폼 서브스택(Substack)은 인간이 쓴 척 독자를 속이는 이런 AI 글쓰기를 '클로드피싱(Claudefishing)'이라고 규정했습니다.

서브스택은 7월 21일 AI 탐지 전문 업체 팽그램(Pangram)과 파트너십을 맺고, 웹과 iOS 앱에 텍스트 분석 도구를 전격 도입했습니다.

AI가 쓴 글인지 직접 스캔해 확인

팽그램 추산에 따르면 일부 소셜 미디어 플랫폼은 텍스트의 최대 40%가 AI로 생성되고 있습니다. 서브스택 CEO 크리스 베스트는 자사 플랫폼이 영혼 없는 글로 뒤덮인 링크드인처럼 변하기 전에 선제 대응에 나선 것이라고 밝혔습니다.

새 기능은 100단어가 넘는 글, 단문 포스트인 'Notes', 댓글 등을 대상으로 작동합니다. 모든 글에 결과가 일괄 노출되는 방식이 아니라, 독자가 원할 때 직접 요청해야만 손으로 쓴 비율과 AI가 보조한 비율의 추정치를 보여줍니다.

물론 한계도 명확합니다. 서브스택 측은 팽그램이 텍스트 자체의 AI 생성 여부만 판별할 뿐, 작성자가 얼마나 정성을 들여 검수했는지나 AI를 단순 자료 조사용으로 썼는지는 구분하지 못한다고 설명했습니다.

창작자 위한 '제작 방식 표기'와 사전 검사

무고한 창작자가 억울하게 AI 작성자로 몰리는 일을 막기 위한 안전장치도 마련됐습니다.

창작자는 글을 발행하기 전 초고 상태에서 팽그램 검사를 미리 돌려볼 수 있으며, 자신의 글에 매겨진 스캔 결과가 잘못되었다고 판단되면 신고 후 삭제할 수 있습니다. 또한 '제작 방식(How I make this)' 항목을 프로필에 추가해 손글씨 중심인지, AI를 도구로 활용하는지 독자에게 투명하게 밝힐 수 있습니다.

이 기능은 곧 안드로이드 앱에도 적용될 예정입니다. 향후에는 커뮤니티 댓글 규칙에서 AI 참여를 제한하거나, 추천 피드에서 AI 콘텐츠 필터링을 설정하는 기능도 검토 중입니다.

왜 중요한가

창작자 경제의 핵심 기반은 독자와 작가 사이의 신뢰입니다. 독자가 지갑을 여는 이유는 한 인간의 고유한 생각과 시선을 소비하기 위함이며, 기계적인 문장이 목적이라면 챗봇을 직접 켜면 그만입니다.

서브스택의 이번 조치는 영리해 보입니다. 모든 콘텐츠에 AI 라벨을 강제로 붙여 생태계를 경직시키는 대신, 독자에게 온디맨드 확인 권한을 주고 창작자에게는 작업 과정을 설명할 자율성을 부여했기 때문입니다.

문제는 AI 탐지기 자체의 신뢰도 한계입니다. 문체가 다소 건조한 실제 사람의 글이 AI로 오탐되거나, 교묘하게 수정된 AI 글이 필터를 통과할 가능성은 늘 존재합니다. 독자들이 불완전한 판정 결과를 바탕으로 작가를 의심하고 공격하기 시작한다면, 신뢰를 지키려던 도구가 오히려 커뮤니티를 흔드는 불씨가 될 수 있습니다.