머스크와 석학들, GPT-4 능가하는 대형 AI 훈련 6개월간 중단 촉구

빅테크 기업들이 거대 언어모델 상용화에 속도를 내고 있는 가운데, 유력 인사들이 전격적으로 제동을 걸고 나섰습니다.

비영리 단체 생명미래연구소는 공개서한을 발표하고, 전 세계 모든 AI 연구소가 GPT-4보다 강력한 AI 시스템 훈련을 즉각 최소 6개월 동안 중단해야 한다고 촉구했습니다. 연구소들이 자발적으로 중단하지 못할 경우, 각국 정부가 개입해 모라토리엄을 시행해야 한다는 요구까지 덧붙였습니다.

6개월 멈추고 안전 기준부터 만들자는 제안

서한의 문제의식은 명확합니다. 현재 AI 업계가 창작자조차 이해하거나 예측하거나 통제할 수 없는 모델을 통제 불능의 속도로 출시하는 위험한 레이스에 갇혀 있다는 것입니다.

서한 작성자들은 인간과 경쟁하는 수준의 AI가 사회와 문명에 심각한 경제적, 정치적 혼란을 야기할 수 있다고 경고했습니다. 그러면서 6개월의 유예 기간 동안 독립된 외부 전문가들이 감사하고 감독하는 공통의 안전 프로토콜을 함께 만들어 도입해야 한다고 제안했습니다.

안전성에 대한 우려는 이미 현실로 다가오고 있습니다. 유럽연합 경찰기구인 유로폴 역시 이번 주 초 ChatGPT 같은 고급 AI가 피싱 공격, 허위정보 유포, 사이버 범죄에 악용될 수 있다는 공식 경고를 내놓았습니다. 마이크로소프트와 구글 등 거대 기업들이 안전보다 출시를 우선시하는 흐름에 대한 반발이 점차 커지는 분위기입니다.

1000명 이상 서명, 관리 허점도 노출

공개서한에는 1000명이 넘는 인사가 이름을 올렸습니다. 일론 머스크를 비롯해 애플 공동 창립자 스티브 워즈니악, 스태빌리티 AI 최고경영자 이마드 모스타크, 역사학자 유발 하라리, 저명한 AI 연구자인 요슈아 벤지오와 스튜어트 러셀 등이 동참했습니다.

서한은 경쟁의 한가운데에 있는 OpenAI조차 과거 향후 시스템에 대한 독립적 검토의 필요성을 언급한 바 있다고 짚었습니다.

다만 서명자 명단 검증 과정에서는 혼선도 빚어졌습니다. 공개 접수 방식을 취하다 보니, 경쟁을 이끌고 있는 OpenAI의 샘 알트먼 CEO 같은 엉뚱한 이름이 장난으로 등록되는 해프닝이 발생해 주최 측이 명단 정리에 나서야 했습니다.

왜 중요한가

일반 이용자와 개발자 입장에서 당장 내일 서비스가 끊기는 일은 없습니다. GPT-4는 여전히 작동 중이며 현재의 도구들도 계속 쓸 수 있습니다. 그러나 이 서한이 각국 입법자들을 설득하는 데 성공한다면, 향후 차세대 모델의 API를 활용하거나 서비스를 배포할 때 거쳐야 할 검증 절차가 훨씬 까다로워질 수 있습니다.

업계 차원에서는 이 서한 하나로 마이크로소프트나 구글의 천문학적인 컴퓨팅 연산이 멈춰 설 가능성은 매우 낮습니다. 대신 이번 행동은 빅테크의 출시 우선주의에 맞서는 반대 여론을 정치와 입법의 영역으로 직행시키는 기폭제 역할을 하고 있습니다.

우리가 보기에 안전 표준을 엄격히 하자는 취지는 타당하지만, 6개월간 일괄 중단하자는 요구는 현실성이 매우 떨어집니다. 글로벌 강제 수단이 없는 상황에서 약속을 지키는 연구소만 연구를 멈추고, 이를 무시하는 진영에 주도권을 넘겨주는 결과를 낳을 수 있기 때문입니다. 현실적인 로드맵이라기보다는 폭주하는 빅테크에 제동을 걸기 위해 던진 정치적 압박 카드에 가깝다고 판단됩니다.