‘강화학습 창시자’ 튜링상 수상자들, AI 안전성 무시한 무분별한 출시 경고

만약 한 건설회사가 대교를 지어놓고 무게 하중조차 계산하지 않은 채, 수만 대의 차량을 곧바로 통행시켜 다리가 무너지는지 확인하려 한다면 어떻게 생각하시겠습니까?

올해 컴퓨터 과학 분야 최고 권위의 상을 거머쥔 두 석학은 지금의 AI 업계가 정확히 그런 위험한 짓을 저지르고 있다고 경고했습니다.

다리를 지어놓고 사람을 건너게 해 시험하는 셈

매사추세츠 대학교의 앤드루 바토(Andrew Barto) 연구원과 전 딥마인드 연구 과학자인 리처드 서튼(Richard Sutton)이 올해 튜링상을 공동 수상했습니다. 100만 달러의 상금이 걸린 튜링상은 ‘컴퓨터 과학계의 노벨상’으로 불리며, 두 사람은 오늘날 인공지능의 토대가 된 ‘강화학습’을 정립한 공로를 인정받았습니다.

강화학습은 시스템이 시행착오를 거치며 최적의 결정을 내리도록 훈련하는 기법입니다. 구글의 제프 딘(Jeff Dean) 수석 부사장은 이를 두고 ‘AI 발전의 핵심 고리’이자 알파고부터 챗GPT에 이르는 ‘AI 붐의 중심 기둥’이라고 평가했습니다.

그러나 두 과학자는 영예의 순간, 축하 대신 대중을 상대로 성급하게 모델을 출시하는 기업들의 위험성에 주목했습니다.

파이낸셜 타임스와의 인터뷰에서 바토 연구원은 AI 모델의 배포 방식을 두고 “다리를 지어놓고 사람들에게 직접 건너보게 하면서 안전한지 테스트하는 꼴”이라고 꼬집었습니다.

그는 안전장치도 없이 수백만 명에게 소프트웨어를 배포하는 것은 정상적인 엔지니어링 관행이 아니라고 지적했습니다. 기술의 부정적 결과를 줄이기 위해 오랜 세월 발전해 온 엔지니어링의 기본 원칙을 현재 개발 기업들이 철저히 외면하고 있다는 비판입니다.

상업적 이익에 밀려난 엔지니어링 윤리

바토 연구원은 AI 기업들이 학술적 연구나 안전이 아닌 ‘비즈니스적 동기’에 의해서만 움직이고 있다고 직격탄을 날렸습니다.

이러한 우려는 이번이 처음이 아닙니다. 앞서 튜링상을 받은 ‘AI의 대부’ 요슈아 벤지오와 제프리 힌턴 역시 위험한 AI 개발 방식을 꾸준히 비판해 왔습니다. 2023년에는 오픈AI CEO 샘 알트만을 비롯한 정상급 연구진과 경영진들이 “AI로 인한 인류 멸종 위험 완화를 글로벌 우선순위로 삼아야 한다”는 성명에 서명하기도 했습니다.

하지만 현실의 레이스는 상업화를 향해 더 가속화되고 있습니다. 결과를 충분히 이해하기도 전에 상업화를 서둘렀다는 이유 등으로 알트만을 일시 축출했던 오픈AI조차, 지난 12월 영리 기업으로의 전환 계획을 공식 발표했습니다.

왜 중요한가

우리는 이번 경고의 무게감이 남다르다고 봅니다. 두 사람이 외부 비판자가 아니라, 오늘날 생성형 AI 엔진을 직접 설계한 강화학습의 원조 창시자이기 때문입니다.

일반 이용자와 개발자 입장에서 보자면, 우리는 알게 모르게 빅테크의 무보수 스트레스 테스터 역할을 하고 있는 셈입니다. 만약 검증되지 않은 AI 모델을 중요한 업무나 코드 작성에 전적으로 의존하고 있다면, 안전 검사를 거치지 않은 다리 위에 올라서 있는 것과 다름없습니다.

‘일단 배포하고 문제는 나중에 고친다’는 실리콘밸리식 소프트웨어 관행은, 파급력이 막대한 인공지능 분야에서는 매우 위험한 도박으로 보입니다. 경쟁사보다 하루라도 먼저 내놓아야 투자금을 유치하는 죄수의 딜레마에 갇혀 있기 때문입니다.

우리는 학자들의 도덕적 호소만으로는 이 거대한 상업적 폭주를 멈추기 어려울 것으로 봅니다. 전통 토목이나 항공 산업처럼 법적 구속력을 지닌 엔지니어링 안전 기준이 마련되지 않는 한, 대중을 시험대에 올리는 위험한 출시는 계속될 가능성이 큽니다.