오픈AI, 美 대선 대응 결과 공개…후보자 딥페이크 생성 25만 건 거부

2024년 미국 대선을 앞두고 생성형 AI 발 딥페이크와 허위 정보가 선거판을 뒤흔들 것이라는 우려가 적지 않았습니다.

선거가 끝난 직후인 11월 8일, 오픈AI는 대선 기간 동안 가동했던 안전 보호 조치 결과를 정리해 공개했습니다.

공개된 수치는 챗GPT가 얼마나 거센 시도들을 막아내고 있었는지를 잘 보여줍니다.

대선 직전 한 달간 딥페이크 25만 건 차단, 300만 건은 공표 사이트로 토스

가장 눈에 띄는 숫자는 이미지 생성 모델인 DALL·E에서 나왔습니다.

투표일을 앞둔 한 달 동안, 챗GPT는 도널드 트럼프 대통령 당선인, 카멀라 해리스 부통령, JD 밴스 부통령 당선인, 조 바이든 대통령, 팀 월즈 주지사 등 주요 정치인의 이미지를 만들어 달라는 요청을 25만 건 이상 거절했습니다.

텍스트 대화에서도 방어벽은 높았습니다. 이용자가 특정 후보에 대한 선호나 지지를 노골적으로 유도해도 챗GPT는 정치적 입장을 표명하지 않도록 제한되었습니다.

민감한 선거 정보에 대해서는 아예 직접 답하지 않고 공신력 있는 외부 출처로 사용자를 넘기는 방식을 택했습니다.

선거 전 한 달 동안 투표 장소나 방법 등을 묻는 질문 약 100만 건을 전미주무관협회(NASS) 공식 사이트인 CanIVote.org로 안내했습니다.

이어 투표일 당일과 그 다음 날 개표 결과를 묻는 질문 약 200만 건에 대해서는 AP통신이나 로이터 등 전통 언론사의 속보를 직접 확인하라는 메시지를 띄웠습니다.

은밀한 여론 조작 공작, 바이럴 실패

일반 이용자의 호기심 어린 요청 외에도, 조직적인 배후 세력의 여론 조작 시도 역시 주요 감시 대상이었습니다.

오픈AI는 올해 5월부터 악의적 공격자들이 자사 모델을 은밀한 영향력 공작에 악용하려 한 사례를 추적해 정기 보고서로 발표해 왔습니다.

선거팀이 모니터링을 지속한 결과, 자사 모델을 활용한 미 대선 관련 여론 조작 작전이 대규모 바이럴을 일으키거나 고정 독자층을 확보한 징후는 발견되지 않았다고 밝혔습니다.

오픈AI는 API 이용 정책을 통해 선거 캠페인 및 로비용 앱 개발을 금지하고, 실존 정치인이나 기관을 사칭하는 챗봇 제작을 원천 차단해 왔습니다.

왜 중요한가

이번 조치는 초대형 AI 플랫폼이 민감한 정치 이벤트를 통과하는 가장 현실적인 표준을 보여줬습니다.

사용자 입장에서는 대선 주자의 패러디 이미지를 만들 수 없고 실시간 개표 현황도 바로 알려주지 않아 답답했을 수 있지만, 바로 그 제약이 플랫폼의 신뢰를 지켜냈습니다.

약 300만 건의 핵심 질문을 전통 언론사와 공공기관으로 토스한 것은 영리한 리스크 관리였습니다. 챗GPT가 1%의 확률로라도 개표 결과를 잘못 환각했다면 양당과 규제 당국으로부터 감당하기 힘든 후폭풍을 맞았을 것이 뻔하기 때문입니다.

결국 오픈AI는 자사 플랫폼 내에서의 방어전은 성공적으로 치러낸 것으로 보입니다.

하지만 이는 어디까지나 통제 가능한 중앙 서버 환경의 이야기일 뿐입니다. 진짜 위험은 오픈AI의 가드레일을 피해 규제가 없는 오픈소스 모델로 숨어든 딥페이크와 가짜 뉴스에서 계속 발생하고 있습니다.