미 SEC 위원장 경고: 10년 내 AI 발 금융위기 "거의 불가피"

만약 월스트리트의 모든 대형 기관이 같은 순간에 똑같은 AI 모델로부터 매도 신호를 받는다면 어떤 일이 벌어질까요?

미국 증권거래위원회(SEC)의 게리 겐슬러 위원장은 파이낸셜타임스와의 인터뷰에서 매우 비관적인 전망을 내놓았습니다. 향후 10년 안, 빠르면 2020년대 후반이나 2030년대 초반에 AI가 금융 위기를 촉발하는 것은 거의 불가피하다는 경고입니다.

겐슬러 위원장은 기술 기업들이 개발한 소수의 기반 모델에 월스트리트 전체가 의존하게 되면서 전례 없는 경제적 혼란이 촉발될 수 있다고 짚었습니다.

월스트리트가 하나의 두뇌를 공유할 때 생기는 일

생성형 AI 열풍이 불기 시작한 이후 주요 금융기관들은 경쟁적으로 도입에 나섰습니다.

모건스탠리는 지난달 오픈AI의 GPT-4를 기반으로 자산관리사를 돕는 AI 비서를 출시했습니다. 경쟁사인 JP모건 역시 트레이더의 증권 선택을 돕는 인덱스GPT라는 상표 특허를 출원한 것으로 알려졌습니다.

하지만 겐슬러 위원장은 바로 이 지점에서 거대한 시스템 리스크가 싹튼다고 지적합니다.

그는 미래에 금융 위기가 닥친 뒤 사후 보고서를 쓰게 된다면, 주택담보대출 시장이든 주식 시장이든 모두가 결국 단 하나의 데이터 수집처나 단 하나의 모델에 의존하고 있었다는 사실을 발견하게 될 것이라고 말했습니다.

시장 참여자들이 서로 다른 전략 대신 동일한 알고리즘을 따르게 되면 시장의 다양성이 사라지고, 모델에 이상이 생겼을 때 동시에 한 방향으로 쏠리는 대규모 연쇄 반응이 일어납니다.

기존 규제망을 빠져나가는 수평적 위험

더 큰 문제는 지금의 금융 당국 시스템으로는 이 위험을 막기 어렵다는 점입니다.

겐슬러 위원장은 이를 여러 규제 기관이 얽힌 복합적인 과제로 규정했습니다. SEC의 전통적인 규제 방식은 개별 은행이나 개별 펀드, 브로커 등 단일 기관을 감시하는 수직적 구조에 맞춰져 있기 때문입니다.

반면 AI 위험은 여러 기관이 빅테크의 동일한 기반 모델을 밑단에 깔고 사용하는 수평적 문제입니다. 금융 당국이 IT 기업의 모델 개발 자체를 직접 들여다보기는 구조적으로 어렵습니다.

월스트리트 내부에서도 불안감은 엿보입니다. 새로운 기술을 경쟁적으로 도입하면서도 골드만삭스, 도이체방크, 뱅크오브아메리카 등은 올해 초 데이터 유출과 규제 위반을 우려해 사내 업무 중 챗GPT 사용을 전면 금지했습니다.

왜 중요한가

겐슬러 위원장의 경고가 뼈아픈 이유는 AI의 위험성을 단순히 기술적 오류가 아니라 집단적 동조화 현상으로 정확히 짚어냈기 때문입니다.

일반 투자자 입장에서 AI를 활용한 자산 관리 서비스는 편리해 보이지만, 지금 전적으로 신뢰하기에는 분명한 한계가 있습니다. 대형 기관들이 유사한 모델을 통해 포트폴리오를 구성할 경우, 시장 급변 시 알고리즘 매도가 겹치면서 개인 투자자가 미처 대응하지 못하고 손실을 떠안을 위험이 큽니다.

산업 전반에도 파장이 작지 않습니다. 금융 당국이 빅테크를 단순 소프트웨어 판매사가 아니라 금융 시스템의 안정성을 위협할 수 있는 핵심 인프라로 바라보기 시작했다는 신호이기 때문입니다.

결국 오픈AI나 마이크로소프트 같은 기업들도 향후 전통 금융기관 수준의 컴플라이언스 압박을 받게 될 가능성이 높습니다. 다만 기술 기업에 대한 관할권이 불명확한 상태에서 당국이 실효성 있는 규제를 내놓기 전까지는, 은행들이 보안을 이유로 직원의 챗봇 사용은 막으면서도 뒷단에서는 외부 모델을 끌어다 쓰는 모순된 상황이 이어질 것으로 보입니다.