AI 연구 윤리 심사 어떻게 개선할까: 학계 공동 협력과 새 프레임워크 제안

2001년 탄저균 테러 이후 의생명학계가 생물안보 체계를 구축하고, 바이러스학계가 기능 획득 연구의 위험성을 두고 치열하게 논쟁했던 것처럼, 인공지능 연구 역시 비슷한 분기점에 도달했습니다.

학계와 산업계 및 비영리 기구의 연구진은 학술 논평을 통해 AI 연구 윤리 심사 프로세스를 발전시키기 위해 연구 커뮤니티 전반의 조직적인 협력이 시급하다고 촉구했습니다.

기존 윤리 심사가 놓치고 있는 것들

전통적인 학술 연구 윤리는 대학이나 연구소의 기관생명윤리위원회(IRB)가 주로 담당해 왔습니다.

하지만 IRB 모델은 임상시험 등에 참여하는 '인간 피험자'를 보호하기 위해 고안된 체계입니다.

반면 AI 연구가 만들어내는 위험은 연구실 울타리를 훨씬 넘어섭니다.

사법 집행이나 자동화된 의사결정에 알고리즘이 적용될 때 발생하는 편향과 불공정성, 연구 데이터 구축에 동원되는 데이터 라벨러의 노동 복지 문제는 피험자 중심의 기존 IRB 평가 범위에 포함되지 않습니다.

결국 기술이 사회에 미치는 거시적 파급력과 하류 악용 위험을 걸러내기에는 기존 체계에 뚜렷한 한계가 존재합니다.

체크리스트를 넘어선 세 가지 제안

학계도 대응을 시도하지 않은 것은 아닙니다.

지난 2020년 대표적인 머신러닝 학회인 NeurIPS는 논문 제출 시 사회적 영향 진술서를 의무화했고, 여러 학술지와 콘퍼런스가 동료 평가 과정에 사후 윤리 검토를 도입하기 시작했습니다.

그러나 이러한 시도들은 학회별로 파편화되어 진행되었을 뿐, 커뮤니티 차원의 표준과 공조가 부재했습니다.

연구진은 효과적인 협력을 위해 세 가지 권고안을 제시했습니다.

첫째, 현재 시행 중인 윤리 심사 절차의 실질적인 효과를 체계적으로 연구할 것.

둘째, 다양한 학술 행사를 통해 새로운 심사 방식을 폭넓게 실험해 볼 것.

셋째, AI 연구계 내외부의 다양한 목소리가 모여 공통의 규범을 논의할 수 있는 소통의 장을 마련할 것입니다.

왜 중요한가

우리는 이 제안이 AI 학계 자율 규제의 가장 고질적인 약점을 짚어냈다고 봅니다.

심사 기준과 방법론이 표준화되지 않은 상태에서 윤리 문항만 늘릴 경우, 연구자들은 형식적인 면책성 답변을 적어 내는 데 그치고 맙니다.

특정 학회만 엄격한 잣대를 들이대면 연구자들이 심사가 느슨한 다른 곳으로 이탈할 수 있어, 공통된 합의 없이는 자율 규제가 작동하기 어렵습니다.

학회와 저널이 경계를 넘어 협력 체계를 구축하자는 방향은 매우 현실적이고 영리한 접근입니다.

다만 실행 측면의 위험도 분명합니다. 이미 AI 분야의 논문 투고량이 폭증해 동료 평가 인력이 극심한 한계에 부딪힌 상황에서, 추가적인 윤리 검토를 어떻게 실효성 있게 유지할 것인가는 여전히 까다로운 숙제로 남아 있습니다.