워런 버핏의 경고: AI 사기가 역대 최대 '성장 산업' 될 것

월스트리트가 AI 신기술로 막대한 수익을 올릴 계산에 빠져 있는 동안, 워런 버핏은 연례 주주총회에서 전혀 다른 방향의 경고를 던졌습니다.

현지시간 토요일 열린 버크셔 해서웨이 연례 주주총회에서 버핏은 인공지능이 사기에 악용될 위험성을 강하게 짚었습니다.

버핏은 만약 자신이 사기 분야에 투자하는 데 관심이 있었다면 AI 사기야말로 역사상 최고의 성장 산업이 되었을 것이라며, AI가 이러한 범죄를 실질적으로 가능하게 만들고 있다고 지적했습니다.

사상 최대의 '성장 산업'이 된 AI 사기

2022년 말 시작된 AI 붐 이후 엔비디아 주가는 507% 폭등했고, 메타 플랫폼스 역시 275% 상승하며 시장을 이끌었습니다.

하지만 버핏은 주가 상승 대신 기술이 가져올 부작용에 주목했습니다. 사람을 완벽하게 속일 수 있는 정교한 허위 콘텐츠가 손쉽게 만들어져 범죄자들에게 돈이 흘러 들어가고 있다는 것입니다.

실제로 사기 범죄자들은 이미 AI 음성 복제 기술과 딥페이크를 이용해 가족이나 지인의 목소리와 얼굴을 흉내 내며 돈이나 개인정보를 요구하고 있습니다.

버핏은 자신은 AI에 대해 전혀 알지 못한다면서도, 이 기술이 엄청난 선한 잠재력과 함께 엄청난 파괴적 잠재력을 동시에 지니고 있어 앞으로 어떤 결과로 이어질지 알 수 없다고 말했습니다.

원자폭탄과 병 밖으로 나온 요정

버핏은 AI가 가진 파괴력을 20세기 원자폭탄의 개발에 빗대어 설명하기도 했습니다.

그는 인류가 핵무기를 개발했을 때 병 속에서 요정을 꺼내놓은 것과 같았으며, 그 요정이 최근 끔찍한 일들을 저질러 왔고 그 힘 자체가 지독한 공포를 준다고 표현했습니다.

요정을 다시 병 속으로 집어넣을 방법이 없듯이 AI 역시 마찬가지라는 것이 버핏의 진단입니다.

AI라는 요정은 이미 병 밖으로 일부 빠져나왔고, 누군가는 반드시 이를 계속 개발할 것이기 때문에 이것이 사회의 미래를 어떻게 바꿀지는 결국 시간이 지나야 알 수 있을 것이라고 덧붙였습니다.

왜 중요한가

버핏의 이번 경고는 기술적 성과에만 환호하던 시장에 현실적인 경종을 울립니다.

일반 이용자 관점에서 AI 사기는 당장 체감되는 직접적인 위험입니다. 몇 초 분량의 샘플만으로 자녀의 음성을 복제하고 화상 통화까지 조작하는 세상에서는, 평범한 디지털 소통의 기본 신뢰 자체가 무너질 수밖에 없습니다.

산업 전반에도 적지 않은 파장을 줄 것으로 보입니다. 전 세계에서 가장 존경받는 가치투자자가 AI의 부작용을 핵무기에 비유한 만큼, 생성형 AI의 위변조 방지 기술 도입과 규제 당국의 감시 강도는 한층 더 거세질 전망입니다.

우리는 버핏의 이번 통찰이 기술의 어두운 이면을 매우 날카롭게 짚었다고 봅니다. 첨단 기술이 등장했을 때 규제와 안전장치보다 범죄 집단의 도입 속도가 훨씬 빠른 경우가 많습니다. 기술의 수익성만 계산할 것이 아니라, 사회적 신뢰를 파괴하는 부작용에 어떻게 대응할지 진지하게 고민해야 할 시점입니다.