구글, 2024년 대선 앞두고 바드·SGE의 선거 관련 답변 제한한다

선거철이 다가올 때마다 빅테크 기업들은 허위 정보 확산의 진원지로 지목되며 곤욕을 치러왔습니다.

미국 대선을 비롯해 2024년 주요 선거들이 다가오자, Google은 생성형 AI 도구에서 선거 관련 질의 처리를 제한하겠다는 선제적 조치를 내놓았습니다.

AI 답변을 꺼버리는 강수

제한 대상은 챗봇 Bard뿐만 아니라 일반 검색 화면에 생성형 답변을 띄워주는 SGE(Search Generative Experience)까지 포함됩니다.

적용 시점은 내년 초로 예정되어 있습니다. Google은 어떤 유형의 질문을 차단할지 구체적인 목록을 밝히지는 않았으나, 선거 관련 활용에 대해 극도로 신중한 태도를 취할 것이라고 설명했습니다.

환각 현상이 완전히 해결되지 않은 생성형 AI가 유권자에게 잘못된 정보를 안내할 경우 정치적 파장이 걷잡을 수 없이 커지기 때문에, 위험한 질문에는 아예 답을 내놓지 않겠다는 뜻입니다.

유튜브 창작자에게도 라벨 부착 요구

이번 대책은 텍스트 생성 도구에만 그치지 않습니다.

정치 광고에 합성 콘텐츠 사용 여부를 표기하도록 했던 기존 방침에 더해, 조만간 YouTube 창작자들에게도 영상에 수정되거나 합성된 콘텐츠가 포함된 경우 이를 밝히도록 의무화할 계획입니다.

다만 제작자가 이를 속였을 때 플랫폼이 어떻게 강제하고 적발할지에 대해서는 구체적인 방법이 공개되지 않았습니다.

아울러 Google은 고급 보호 프로그램을 통해 각 선거 캠프에 보안 지원을 제공하고, Search와 News, Maps 등 기존 서비스에서 신뢰할 수 있는 언론사 출처를 우선 노출할 방침입니다. 경쟁사인 OpenAI 역시 위조 정보 대응 도구를 강화하고 있지만, 특정 선거 질의를 전면 제한하는 조치까지는 취하지 않았습니다.

왜 중요한가

일반 이용자 입장에서는 내년 초부터 Bard나 AI 검색으로 후보자 공약이나 투표소 정보를 물어보더라도 AI 요약 대신 기존 검색 링크로 안내받을 가능성이 높습니다. 최신 기술의 편리함은 줄어들겠지만, 민감한 공공 정보에서는 검증된 원본 링크를 직접 확인하는 편이 훨씬 안전합니다.

우리는 Google의 이번 조치가 매우 실리적인 리스크 관리라고 봅니다. 생성형 AI 경쟁이 치열한 시기임에도, 선거 관련 오답으로 불거질 법적·사회적 책임을 피하기 위해 가장 민감한 영역에서 과감히 한 발 물러선 셈입니다.

문제는 필터링의 균형입니다. 질문 차단 범위를 너무 넓히면 유권자가 기본적인 투표 일정조차 확인하기 어려워지고, 너무 좁히면 교묘한 가짜 뉴스를 막아내지 못합니다. 또한 주요 빅테크가 자사 도구를 걸어 잠그더라도, 통제가 어려운 오픈소스 모델을 악용한 딥페이크 유포까지는 막을 수 없다는 숙제가 여전히 남아 있습니다.