오픈AI 샘 올트먼 "AI 위험성에 조금 두려워…사회적 규제 시급"

GPT-4 출시 직후, OpenAI의 샘 알트먼 CEO와 미라 무라티 CTO가 미국 ABC 뉴스와의 단독 인터뷰를 통해 생성형 AI의 미래와 그에 따르는 위험을 직접 털어놓았습니다. 알트먼은 AI가 인류가 개발한 가장 위대한 기술이 될 수 있다고 추켜세우면서도, 동시에 본인 역시 기술이 가져올 파급력이 두렵다며 사회적 규제를 촉구했습니다.

스위스 투자은행 UBS에 따르면 ChatGPT는 출시 몇 달 만에 월간 활성 사용자 1억 명을 넘어서며 틱톡이나 인스타그램보다 훨씬 빠른 속도로 성장했습니다. 하지만 알트먼은 성공에 환호하기보다 통제 범위를 벗어날 수 있는 오남용 가능성을 경계해야 한다고 못 박았습니다.

팩트 DB가 아닌 추론 엔진으로 봐야

GPT-4는 미국 변호사 시험에서 상위 10%의 성적을 거두고, 미국 대입 수능 시험인 SAT 수학에서 만점에 가까운 점수를 기록했습니다. 대부분의 프로그래밍 언어로 코드를 능숙하게 작성하는 수준에 도달했습니다. 냉장고 안의 식재료를 파악하거나 밈의 맥락을 설명하는 이미지 인식 기능도 갖췄으나, 현재는 시각장애인 대상 베타 테스트 등 소수에게만 제한적으로 열려 있습니다.

무라티 CTO는 GPT-3.5에서 GPT-4로 넘어오며 단순 암기가 아닌 추론 능력이 비약적으로 발전했다고 설명했습니다. 다음 단어를 예측하는 과정에서 언어와 세상을 이해하는 능력이 창발했다는 것입니다.

그러나 여전히 가장 큰 문제는 할루시네이션, 즉 허언증 현상입니다. 알트먼은 모델이 전혀 사실이 아닌 내용을 마치 확실한 진실처럼 답변할 수 있다고 경고했습니다. 그는 이 모델을 정보를 찾는 사실 데이터베이스가 아니라 논리적 생각을 돕는 추론 엔진으로 취급해야 한다고 조언했습니다.

공상과학의 반란 대신 현실의 악용자들

알트먼은 AI가 스스로 결정을 내리고 세계를 지배한다는 식의 공상과학적 공포에는 선을 그었습니다. AI는 사용자가 입력을 줄 때까지 대기하는 도구이며, 여전히 인간의 손안에 있다는 설명입니다.

그가 밤잠을 설치며 두려워하는 것은 이 도구를 쥐게 될 인간들입니다. 특히 대규모 허위 정보 유포와 정교해진 코딩 실력을 악용한 사이버 공격을 꼽았습니다. OpenAI가 둔 안전장치를 전혀 적용하지 않은 채 모델을 배포하는 주체가 등장할 경우, 사회가 대응할 수 있는 시간이 얼마 남지 않았다는 점을 짚었습니다.

알트먼은 이미 정부 관료들과 정기적으로 접촉하고 있으며, 규제 당국과 사회가 배포 과정에 적극적으로 개입해야 한다고 거듭 강조했습니다.

왜 중요한가

우리는 알트먼의 이번 행보가 안전에 대한 솔직한 고백인 동시에, 향후 시장의 규제 표준을 선점하려는 계산된 움직임이라고 봅니다. 기술의 위험성을 먼저 꺼내 들며 사회적 합의를 요구하는 방식은 경쟁자들에게 더 높은 진입 장벽을 안겨주는 영리한 프레임이기도 합니다.

실제 도구를 다루는 개인과 개발자에게 주는 교훈은 명확합니다. GPT-4를 완벽한 지식 백과사전으로 맹신하고 결과물을 그대로 신뢰하는 것은 매우 위험합니다. 논리적 맥락을 잡거나 복잡한 코드를 초안 수준에서 빠르게 풀어내는 도구로는 지금 바로 써볼 가치가 충분하지만, 최종 팩트 체크의 책임은 여전히 사용자에게 있습니다.

진짜 위협은 통제를 벗어난 기계가 아니라 무제한의 성능을 악용하는 사람들입니다. 오픈소스 진영이나 규제를 우회하는 주체들이 안전망 없는 모델을 쏟아낼 때 생길 혼란을 어떻게 막을 것인지, 이제 업계 전체가 답해야 할 시점입니다.