오픈AI, 듀크대에 '인간 도덕성 예측' AI 연구 지원

AI에게 도덕적 판단을 맡긴다는 발상은 디스토피아 SF 소설의 한 장면처럼 들립니다. 하지만 OpenAI는 실제로 이 연구에 연구비를 대고 있습니다.

미국 국세청(IRS) 신고 자료에 따르면, OpenAI의 비영리 법인인 OpenAI Inc.는 듀크대학교 연구진의 'AI 도덕성 연구(Research AI Morality)' 프로젝트에 보조금을 지급했습니다. OpenAI 대변인은 이 지원이 듀크대 교수들의 '도덕적 AI 만들기'를 주제로 한 3년 총액 100만 달러 규모 연구 지원금의 일부이며, 2025년에 종료될 예정이라고 확인했습니다.

도덕적 GPS를 꿈꾸는 연구진

프로젝트의 구체적인 내용은 아직 베일에 싸여 있습니다. 연구 책임자인 듀크대 실천윤리학 교수 Walter Sinnott-Armstrong은 이 작업에 대해 당장 발언할 수 없다고 밝혔습니다.

다만 그와 공동 연구자인 Jana Borg 교수는 이미 AI가 인간의 더 나은 결정을 돕는 '도덕적 GPS' 역할을 할 수 있다는 연구와 저서를 꾸준히 발표해 온 인물들입니다. 이들은 이전에 신장 기증자를 누구에게 우선 배분할지 결정하는 '도덕적으로 정렬된' 알고리즘을 개발하기도 했고, 사람들이 어떤 상황에서 AI의 도덕적 결정을 선호하는지 연구해 왔습니다.

보도자료에 따르면 이번 과제의 목표는 의료, 법률, 비즈니스 분야에서 도덕적 가치 충돌이 발생할 때 알고리즘이 '인간의 도덕적 판단을 예측'하도록 훈련하는 것입니다.

확률 기계에 윤리를 가르치는 난제

문제는 오늘날의 AI 기술로 과연 주관적인 도덕성을 다룰 수 있느냐입니다.

지난 2021년 앨런 AI 연구소가 선보인 윤리 자문 봇 'Ask Delphi' 사례가 대표적입니다. 시험 부정행위가 잘못이라는 식의 단순 판단은 잘 해냈지만, 질문을 살짝만 비틀어도 영아 질식사 같은 끔찍한 행위를 승인해 버렸습니다. 심지어 이성애가 동성애보다 더 도덕적으로 용인된다는 식의 편향까지 그대로 노출했습니다.

웹 텍스트의 확률 통계에 의존하는 대형 언어 모델은 윤리적 추론 능력이 없습니다. 현재도 Claude는 절대적 규칙을 중시하는 칸트주의 성향을 띠는 반면, ChatGPT는 다수의 이익을 우선하는 공리주의에 가깝게 답변하는 등 모델마다 철학적 편향이 엇갈립니다.

왜 중요한가

AI가 단순한 챗봇을 넘어 자율 에이전트로 진화하는 상황에서, 도덕적 판단은 더 이상 피할 수 없는 영역입니다. 법률 자문이나 의료 현장의 자원 배분 같은 민감한 작업에 AI가 개입하기 시작하면, 사소한 도덕적 편향도 현실의 차별로 직결될 수 있습니다.

OpenAI가 직접 모델을 손보기 전에 외부 전문 윤리학자들에게 연구를 맡긴 것은 영리한 선택으로 보입니다. 논란이 불거지기 쉬운 기계 윤리 문제를 학계와 협력해 기초부터 점검하면서, 상용 제품과의 직접적인 리스크는 분리할 수 있기 때문입니다.

하지만 알고리즘으로 도덕적 판단을 예측하겠다는 발상 자체에는 짙은 그늘이 있습니다. 웹 데이터는 서구권과 고학력층의 목소리에 치우쳐 있어 소외된 집단의 윤리관을 담아내지 못합니다. 장기 기증 우선순위 같은 중대한 결정을 '도덕적 GPS'라는 이름의 알고리즘에 기대는 것은, 자칫 기계에 윤리적 책임을 전가하는 위험한 선례가 될 수 있습니다.