구글 연구진의 자인: 생성형 AI가 가짜 콘텐츠로 인터넷 망치고 있다

구글이 모든 서비스에 생성형 AI를 밀어 넣느라 여념이 없는 사이, 정작 구글 내부 연구진은 이 기술이 인터넷을 망치고 있다는 뼈아픈 경고를 내놓았습니다.

IT 매체 404 미디어가 포착한 구글 연구진의 미동료평가 논문에 따르면, 생성형 AI가 대량 생산하는 가짜 콘텐츠로 인해 웹 공간 전반의 신뢰가 빠르게 붕괴하고 있습니다.

전문 지식 없이도 가능한 대규모 여론 조작

연구팀은 기존 학술 연구와 함께 생성형 AI 오남용을 다룬 뉴스 기사 약 200건을 면밀히 분석했습니다.

실제 현실에서 가장 흔하게 나타난 악용 수법은 특정 인물의 외모를 합성해 조작하거나, 사건의 증거를 위조하는 방식이었습니다.

이러한 행위는 대부분 여론을 왜곡하거나 사기 범죄를 저지르고, 혹은 단순한 금전적 수익을 올리려는 명확한 목적 아래 실행되었습니다.

가장 큰 문제는 기술 장벽이 거의 사라졌다는 점입니다. 연구진은 고도화된 AI 도구를 다루는 데 전문적인 기술 지식이 거의 필요하지 않게 되면서, 사회정치적 현실과 과학적 합의에 대한 대중의 인식이 손쉽게 왜곡되고 있다고 지적했습니다.

진짜 증거마저 가짜로 몰리는 세상

더 큰 위협은 가짜 정보가 넘쳐나면서 생기는 심리적 피로감입니다. 저품질 스팸성 합성물이 쏟아지자 이용자들은 디지털 정보 전체를 불신하게 되었고, 일일이 진위를 확인해야 하는 과도한 검증 부담을 떠안게 되었습니다.

특히 논문은 사회적 영향력이 큰 인물이 자신에게 불리한 실제 증거를 마주했을 때, 이를 두고 'AI가 만든 가짜'라고 발뺌하는 현상이 이미 발생하고 있다고 짚었습니다.

진실을 입증해야 하는 비용이 턱없이 높아지는 부작용이 나타난 셈입니다. 한편 이번 논문에서는 최근 구글이 겪었던 검색 AI 오답 소동 등 자사의 뼈아픈 실책에 대해서는 일절 언급하지 않았습니다.

왜 중요한가

우리는 이번 연구가 업계의 가장 불편한 진실을 건드렸다고 봅니다. 이른바 'AI 오남용'이라 불리는 현상은 사실 생성형 AI 기술이 설계된 목적대로 너무나 완벽하게 작동하고 있기 때문에 벌어지는 일입니다.

진짜 같은 허위 정보를 비용 없이 대량 생산하는 것이 이 기술의 본질인 만큼, 상업적 경쟁에 눈이 멀어 이를 무차별 배포하면 디지털 공해는 필연적으로 뒤따를 수밖에 없습니다.

일반 이용자에게 이번 변화는 명백한 손해입니다. 갈수록 정교해지는 사기 수법을 경계해야 할 뿐만 아니라, 단순한 뉴스를 소비할 때조차 엄청난 검증 에너지를 소모해야 합니다.

결국 구글을 비롯한 빅테크 기업들은 심각한 자기모순에 직면해 있습니다. 연구진이 합성 쓰레기가 웹 생태계를 파괴하고 있다고 경고하는 와중에도, 경영진은 주주와 시장의 요구에 맞춰 AI 탑재를 멈추지 못하고 있기 때문입니다.