오픈AI, AI 민주적 거버넌스 성과 공개…'집단 정렬' 전담팀 신설

AI가 무엇을 말하고 무엇을 침묵해야 할지, 그동안 이 기준은 샌프란시스코의 소수 빅테크 엔지니어들이 결정해 왔습니다. 하지만 만약 전 세계 시민들이 투표하듯 민주적인 절차를 거쳐 AI의 규칙을 직접 정한다면 어떨까요?

OpenAI는 지난해 5월 출범한 'AI 민주적 입력(Democratic Inputs to AI)' 보조금 프로그램의 최종 결과 보고서와 관련 오픈소스 코드를 공개했습니다. 113개국 약 1,000개 지원 팀 중 선정된 10개 팀(각 10만 달러 지원)이 수개월간 다양한 거버넌스 실험을 진행했습니다. OpenAI는 이 실험 결과를 바탕으로 외부 이해관계자의 의견을 취합해 실제 모델 학습에 반영하는 전담 조직인 '집단 정렬(Collective Alignment)' 팀을 공식 신설한다고 밝혔습니다.

현실과 맞닥뜨린 민주적 실험들

법학, 저널리즘, 평화 구축, 머신러닝 등 다양한 분야의 전문가로 구성된 10개 팀의 실험에서는 흥미롭고도 뼈아픈 현실적 한계들이 드러났습니다.

가장 두드러진 점은 대중의 의견이 생각보다 훨씬 빠르게 바뀐다는 사실이었습니다. 참가자들의 견해는 며칠 사이에도 달라졌으며, 이는 AI 규칙을 정할 때 대중의 목소리를 얼마나 자주 수집해야 하는지에 대한 난제를 남겼습니다. 일시적인 감정 변화와 장기적으로 지켜야 할 근본적 가치를 분리해 내는 작업이 필요하기 때문입니다.

디지털 격차로 인한 표본 편향도 심각했습니다. 온라인으로 모집된 참여자들은 기본적으로 AI에 대해 훨씬 낙관적이고 우호적인 태도를 보였습니다. 개발도상국 현장에서는 기술적 장벽이 발목을 잡았습니다. 필리핀 언론사 래플러(Rappler) 팀이 현지 포커스 그룹을 진행했을 때, 음성 인식 도구인 Whisper가 타갈로그어, 비사야어 등 현지 언어를 제대로 전사하지 못해 논의 내용을 기록하는 것조차 애를 먹었습니다. 아프리카의 Ubuntu-AI 팀은 창작자들에게 금전적 보상을 지급하는 방식을 도입해야만 참여를 이끌어낼 수 있었습니다.

갈등을 봉합하는 방식에서도 중요한 발견이 있었습니다. Collective Dialogues 팀은 백신 정보처럼 극단적으로 대립하는 주제에서도 정교하게 설계된 숙의 과정을 거치자 미국 민주당, 공화당, 무당파 참여자 사이에서 72% 이상의 초당적 지지를 받는 정책 가이드라인을 도출해 냈습니다.

모델 훈련 파이프라인으로 연결할 전담팀 출범

OpenAI는 이 아이디어들을 단순한 학술 연구로 끝내지 않고 내부 엔지니어링으로 편입할 계획입니다. 새롭게 꾸려지는 '집단 정렬' 팀은 대중의 피드백을 데이터화하여 모델의 행동을 미세 조정(파인튜닝)하는 엔드투엔드 시스템을 구축하게 됩니다.

실험 과정에서 참여자들은 정책 결정에 AI를 과도하게 개입시키는 것에 강한 거부감을 보였습니다. AI는 의견 요약이나 초안 작성 같은 효율성 도구로만 쓰고, 최종 검토와 투표는 인간이 맡는 하이브리드 방식이 대중에게 가장 높은 신뢰를 얻었습니다. 또한 AI가 발전함에 따라 규칙을 정기적으로 업데이트해야 한다는 조항에는 평균 85%의 참가자가 압도적인 지지를 보냈습니다.

왜 중요한가

일반 이용자와 개발자 입장에서 이번 발표는 ChatGPT의 안전 가이드라인과 편향 통제가 밀실에서 벗어나 공론장으로 이동할 가능성을 보여줍니다. 당장 내일부터 내 의견이 모델에 투표처럼 들어가는 것은 아니지만, 모델이 지녀야 할 윤리적 경계에 시민사회가 개입할 수 있는 통로가 열리고 있는 셈입니다.

업계 전반으로 보면, 앤트로픽이 사전에 정의된 원칙을 주입하는 '헌법적 AI(Constitutional AI)' 방식을 취하는 것과 대조적으로 OpenAI는 일종의 시민의회 방식을 택하고 있습니다. AI의 정치적 중립성에 대한 각국 규제 당국의 압박이 거세지는 상황에서, 다른 거대 모델 개발사들 역시 이 같은 공론화 프로세스를 도입하라는 압력을 받게 될 것입니다.

우리는 OpenAI의 이번 행보가 매우 영리한 전략이라고 봅니다. 복잡하고 골치 아픈 윤리적 책임과 사회적 합의 비용을 외부 커뮤니티로 분산시키는 동시에, 독점적 검열 논란에서 한 발 물러설 수 있기 때문입니다. 그러나 언어적 한계와 디지털 격차가 존재하는 한, 이 프로세스가 '글로벌 시민'이 아닌 '영어를 쓰고 인터넷 접근성이 좋은 소수'의 목소리만 과대대표할 위험은 여전히 큽니다. 불완전한 여론을 섣불리 모델 가중치로 환산했다가는 모델이 극단적인 눈치보기에 빠질 수 있다는 점도 경계해야 합니다.