구글 딥마인드, AI 안전·정렬 전담 조직 신설…AGI 위험 대응 본격화

구글의 대표 생성형 AI 모델인 제미나이에 특정 프롬프트를 입력하면 다가오는 미국 대선에 대한 허위 조작 정보를 작성하거나, 존재하지도 않는 출처를 그럴듯하게 꾸며내 타이탄 잠수정 폭발에 대한 가짜 뉴스를 생성하는 문제가 지속적으로 지적되어 왔습니다.

규제 당국의 압박이 거세지자, 구글 딥마인드는 2월 21일 AI 안전과 인간 가치 정렬을 전담하는 새로운 조직인 'AI Safety and Alignment'를 신설했다고 밝혔습니다. 기존 안전 관련 부서들을 재편하고 생성형 AI 연구원과 엔지니어를 추가로 영입해 구성한 조직입니다.

눈앞의 환각 현상부터 먼 미래의 AGI 통제까지

새 조직에서 가장 눈길을 끄는 부분은 범용인공지능(AGI)의 안전성을 전담하는 팀입니다. 이는 지난해 7월 경쟁사인 오픈AI가 발족한 슈퍼얼라인먼트(Superalignment) 부서와 사실상 같은 임무를 수행합니다.

딥마인드는 이미 영국 런던에 유사한 연구를 진행하는 Scalable Alignment 팀을 두고 있지만, 이번에 신설된 조직은 미국 본사 인근에 둥지를 틀었습니다. 구글은 신규 채용 규모에 대해서는 구체적인 수치를 밝히지 않았습니다.

신임 조직 수장으로는 UC 버클리 컴퓨터과학과 교수이자 전 웨이모 연구 과학자인 안카 드라간(Anca Dragan)이 선임되었습니다. 드라간 교수는 버클리 연구실과 딥마인드 업무를 병행할 예정입니다. 단기적으로는 제미나이의 부정확한 의료 조언 차단, 아동 보호, 편향성 완화에 집중하고, 장기적으로는 AI가 테러에 악용되거나 사회를 불안정하게 만드는 파국적 위험을 방지하는 것을 목표로 삼았습니다.

드라간 교수는 모델이 자신이 모르는 것이 무엇인지 스스로 인지하게 만드는 불확실성 추정 기술과 추론 단계에서의 실시간 모니터링이 단기적 안전성과 장기적 통제 문제 모두를 해결하는 열쇠라고 설명했습니다.

기업과 대중이 느끼는 생성형 AI에 대한 피로감

구글이 이처럼 안전 조직을 재정비한 배경에는 기술에 대한 깊은 불신이 자리 잡고 있습니다. 유고브(YouGov) 설문조사에서 미국인의 85%가 딥페이크 확산을 우려한다고 답했고, AP-NORC 조사에서는 성인의 약 60%가 AI로 인해 올해 대선 기간 허위 정보가 급증할 것이라고 내다봤습니다.

기업 고객의 불안도 만만치 않습니다. 인텔 자회사 Cnvrg.io의 조사에 따르면 생성형 AI를 도입 중인 기업의 약 4분의 1이 신뢰성과 규정 준수 문제로 도입을 주저하고 있으며, 리스코넥트(Riskonnect) 조사에서는 경영진의 절반 이상이 직원이 AI의 잘못된 정보에 기대어 의사결정을 내릴까 봐 걱정하고 있습니다. 실제로 월스트리트저널은 최근 마이크로소프트 코파일럿이 회의 요약이나 스프레드시트 수식 작성에서 잦은 오류를 범하고 있다고 지적했습니다.

드라간 교수는 완벽한 모델을 만드는 것은 불가능에 가깝다는 점을 인정하며, 조만간 생성형 AI 모델의 안전 위험을 평가하는 공식 프레임워크를 마련하겠다고 밝혔습니다.

왜 중요한가

제미나이를 업무나 서비스에 활용하려는 사용자와 개발자에게 이번 변화는 안전 장치 강화에 따른 검열 증가로 다가올 수 있습니다. 환각 현상이 완전히 해결되지 않는 한, AI가 도출한 데이터나 코드를 실무에 적용하기 전에 사람이 직접 검증해야 하는 번거로움은 당분간 계속될 것입니다.

우리가 보기에 구글이 런던 연구소와 별개로 미국 본사 바로 옆에 안전 전담 부서를 세운 것은 영리한 정치적 포석입니다. 대선을 앞두고 워싱턴 정가의 규제 칼날이 매서워진 상황에서, 실리콘밸리 중심부에 즉각 대응 가능한 조직을 배치해 책임 있는 빅테크의 면모를 보여주려는 의도로 풀이됩니다.

하지만 수장이 대학 연구실과 겸직을 유지하는 구조인 데다, 오픈AI와의 성능 경쟁에서 뒤처지지 않으려는 사업 부서의 압박 속에서 이 조직이 얼마나 강력한 거부권을 행사할 수 있을지는 미지수입니다. 안전 조직이 그저 대외 리스크를 무마하기 위한 홍보용 방패에 그치지 않으려면, 배포 단계에서 제품 출시를 멈춰 세울 수 있는 실질적인 권한이 뒷받침되어야 할 것입니다.