오픈AI, AI 행동 규칙 정하는 민주적 절차 실험에 10만 달러 보조금 10건 지원

AI가 민감한 이슈에 대해 어떤 태도를 취해야 할까요? 샌프란시스코의 엔지니어 몇 명이 밀실에서 결정하게 두는 것도, 특정 정파의 입김에 흔들리는 것도 모두가 원치 않는 그림입니다.

OpenAI의 비영리 법인인 OpenAI, Inc.는 AI 시스템이 준수해야 할 규칙을 민주적인 절차로 결정하기 위한 실험에 10만 달러 규모의 보조금 10건(총 100만 달러)을 지원한다고 발표했습니다.

100만 달러 걸고 AI 규칙 민주화 실험 나선 OpenAI

OpenAI가 이번에 던진 질문들은 단순한 법적 준수 여부를 넘어섭니다. 법의 테두리 바깥에 존재하는 수많은 사회적 가치 판단의 영역입니다.

예컨대 논란이 되는 공인에 대해 AI는 비판을 가해야 할까요, 아니면 중립을 지켜야 할까요? '의사'나 'CEO' 같은 이미지를 생성할 때 인종과 성별의 다양성을 어떻게 균형 있게 반영해야 할까요? 보편적 인권과 특정 지역의 법률 또는 문화가 충돌할 때 AI는 어느 편에 서야 할까요?

OpenAI는 위키피디아, 트위터의 커뮤니티 노트, 대만에서 활용된 pol.is 같은 협력적 의사결정 모델을 영감의 원천으로 꼽았습니다. 어떤 단일 기업이나 개인, 국가도 이 기준을 독점해서는 안 된다는 입장입니다.

500명 이상 참여 프로토타입 개발, 오픈소스 공개 필수

이번 지원 프로그램은 사회과학이나 AI 전문 배경에 상관없이 전 세계의 개인, 팀, 단체 누구나 지원할 수 있습니다.

접수 마감은 2023년 6월 24일이며, 선정 결과는 7월 14일에 발표됩니다. 선정된 10개 팀은 최소 500명의 참가자를 모아 프로토타입을 시연하고, 2023년 10월 20일까지 공개 보고서를 제출해야 합니다.

프로젝트 과정에서 개발된 모든 코드와 지적 재산은 오픈소스 라이선스에 따라 전체 공개되어야 한다는 조건도 붙었습니다.

다만 OpenAI는 이번 실험 결과가 실제 모델 의사결정에 즉각적인 구속력을 갖지는 않는다고 선을 그었습니다. 또한 이는 정부 규제를 대체하기 위한 것이 아니며, 미래의 더 큰 민주적 거버넌스를 위한 디딤돌일 뿐이라고 덧붙였습니다.

왜 중요한가

우리는 OpenAI의 이번 조치가 여론 관리와 기술 연구 양면에서 대단히 영리한 포석이라고 봅니다. 하지만 한계 역시 뚜렷합니다.

영리한 점은, AI의 '가치관 편향'이라는 가장 골치 아픈 뇌관을 대중에게 공론화했다는 사실입니다. 모델이 조금만 치우쳐도 좌우 진영 모두로부터 뭇매를 맞는 상황에서, 100만 달러라는 비교적 적은 예산으로 '우리는 대중의 의견을 듣고자 노력한다'는 명분을 확보하고 시빅 테크 커뮤니티의 아이디어를 끌어모을 수 있습니다.

하지만 '비구속성'이라는 단서는 명백한 허점입니다. 아무리 훌륭한 민주적 절차가 도출되더라도, 실제 ChatGPT에 적용할지 말지는 여전히 OpenAI 경영진의 선택에 달려 있습니다. 자칫하면 실질적 권한 분산 없는 '참여 세탁(participation washing)'에 그칠 위험이 있습니다.

그럼에도 불구하고 연구자와 개발자에게는 도전해 볼 가치가 충분합니다. 결과물이 전부 오픈소스로 풀리기 때문에, 향후 오픈소스 진영이나 타 AI 기업들이 모델 거버넌스 툴을 구축할 때 중요한 선례이자 공공 자산으로 쓰이게 될 가능성이 큽니다.