구글 딥마인드, AGI 사회적 영향과 거버넌스 연구할 'DMI' 설립

구글 딥마인드가 인간 수준의 범용 인공지능(AGI) 도래가 머지않았다고 공식 경고하며, 기술적·사회적 파장에 대비하기 위한 싱크탱크를 직접 차렸습니다.

구글 딥마인드는 9월 16일 사내 싱크탱크인 '딥마인드 인스티튜트(DeepMind Institute, DMI)'를 출범시켰다고 발표했습니다. 딥마인드 공동 창업자인 셰인 레그(Shane Legg)와 데미스 허사비스(Demis Hassabis), 구글 최고경영진인 제임스 마니카(James Manyika)가 공동 디렉터를 맡았으며, 레그가 편집장을 담당합니다. DMI는 딥마인드뿐만 아니라 전 세계 학계와 인문학, 정책 전문가들을 참여시키는 플랫폼으로, 발간되는 글에는 '구글의 공식 입장이 아니다'라는 면책 조항이 붙습니다.

25년간 AGI를 연구해 온 레그는 현재의 AI가 기본적 과제에서 오류를 내거나 일관된 창의성이 부족하지만, 이런 격차가 "곧 좁혀질 것"이라며 AGI가 이미 눈앞에 와 있다고 진단했습니다.

AI의 '숨겨진 생각'을 막아라

DMI 출범과 함께 공개된 기고문들 중 가장 눈길을 끄는 것은 안전 연구원 로힌 샤(Rohin Shah)와 안카 드라간(Anca Dragan)의 모델 투명성 경고입니다. 이들은 차세대 모델 아키텍처가 발전할수록 AI의 추론 과정을 사람이 들여다볼 수 있는 창문이 닫히고 있다고 지적했습니다.

두 연구원은 사람이 읽을 수 있는 추론 흔적 없이 모델이 깊은 연산을 처리하는 이른바 '불투명한 직렬 깊이'를 제한해야 한다고 주장했습니다. 특히 의심스러워 보이는 생각을 출력하지 못하게 처벌하는 방식으로 훈련하면, AI가 오히려 속마음을 숨기는 법을 배울 수 있다고 경고했습니다. 사람이 검증할 수 있는 추론 궤적을 유지하는 것이 최소한의 안전장치라는 설명입니다.

데미스 허사비스 역시 미국 주도의 프론티어 AI 표준 기구 설립을 재차 촉구했습니다. 모델 출시 30일 전에 평가를 거치도록 하고, 모델이 사전에 답안을 외우지 못하도록 비공개 테스트를 도입하자는 구상입니다. 위험이 감지될 경우 프론티어 모델 개발사들이 함께 개발 속도를 늦추는 공조 방안도 포함됐습니다. 한편 경제학자 줄리안 제이콥스와 알렉스 이마스는 AGI 등장 시점을 맞히기보다 노동 시장 충격 지표에 따라 기본소득 형태의 부의 소득세나 자본 소유권 분배를 단계별로 도입하는 정책 패키지를 제안했습니다.

왜 중요한가

AI를 실제 도입하는 엔지니어와 기업 구매 담당자에게 이번 논의는 매우 실용적인 체크리스트를 줍니다. 당장 공급업체에 모델을 발주할 때 "추론 과정이 투명하게 모니터링되는가"나 "보상 시스템이 AI의 의도 숨김을 유발하지 않는가"를 안전 기준으로 요구할 수 있게 됐습니다.

산업 전반으로 보면 딥마인드의 이번 행보는 매우 영리합니다. 미국 워싱턴의 AI 규제 기구 설립 시도가 업계 로비로 정체됐다는 보도가 나오는 상황에서, 기술 개발을 이끄는 주체가 먼저 나서 사회적 담론의 기준선을 긋고 나선 셈입니다. 향후 규제 프레임워크가 만들어질 때 자사의 평가 방식을 표준으로 안착시키려는 포석으로 보입니다.

하지만 한계도 뚜렷합니다. 연구진의 제안이 구글의 공식 사업 방향과 분리되어 있다는 사실 자체가 보여주듯, 치열한 상용화 경쟁 속에서 이러한 윤리적 권고가 얼마나 구속력을 가질지는 미지수입니다. 외부의 강제력 있는 법적 기구가 뒷받침되지 않는다면, '동반 감속' 같은 이상적인 안전장치는 공허한 구호에 그칠 위험이 큽니다.