소니 AI, 네이처에 FHIBE 공개: 1만여 장의 동의 기반 이미지로 AI 편향 잡는다

얼굴 인식이나 자율주행차에 쓰이는 컴퓨터 비전 모델은 종종 특정 인종이나 성별에 대한 편향을 드러내 비판을 받아왔습니다. 모델 학습에 쓰인 데이터 대부분이 웹상에서 무단으로 수집된 탓에, 데이터 자체에 내재된 고정관념이 그대로 알고리즘에 반영되었기 때문입니다.

이러한 문제를 해결하기 위해 소니 AI 연구팀은 AI의 편향을 책임감 있게 평가할 수 있는 새로운 벤치마크 데이터셋인 FHIBE를 이번 주 국제 학술지 네이처에 공개했습니다.

동의 기반으로 모은 1만여 장의 인물 데이터

소니 AI의 앨리스 시앙을 비롯한 연구진이 주도한 FHIBE는 사람 중심 컴퓨터 비전 작업의 편향을 찾아내고 교정하기 위해 개발된 데이터셋입니다.

이 데이터베이스에는 전 세계 81개 국가 및 지역에서 참여한 1,981명의 인물 사진 10,318장이 포함되어 있습니다.

기존의 무단 웹 크롤링 방식과 달리, FHIBE는 철저한 사전 동의를 바탕으로 제작되었습니다. 참가자들은 프로젝트 세부 내용과 잠재적 위험에 대해 사전에 상세한 설명을 들었으며, 엄격한 데이터 보호 규정을 준수하여 데이터가 수집되었습니다.

참가자가 직접 입력한 인구통계학적 정보

FHIBE의 또 다른 차별점은 레이블링 방식입니다. 외부 작업자가 사진을 보고 주관적으로 인종이나 성별을 추정하는 대신, 참가자가 직접 자신의 정보를 작성하는 자가 보고 방식을 채택했습니다.

수집된 정보에는 나이와 대명사 분류, 혈통적 배경뿐만 아니라 피부색과 머리 색상 등 세부적인 신체적 특성이 두루 포함되어 있습니다.

연구진이 기존 컴퓨터 비전 데이터셋 27개와 비교 분석한 결과, FHIBE는 다양성, 동의의 견고함, 편향 완화 수준에서 기존 기준을 크게 뛰어넘었습니다. 특히 과거 데이터셋에서 과소 대표되었던 집단의 비율도 눈에 띄게 높아졌습니다.

연구진은 데이터셋 구축 과정이 매우 까다롭고 막대한 비용이 들었다고 밝혔지만, 이전에는 발견하기 어려웠던 광범위한 편향을 찾아내는 데 중요한 발판이 될 것이라고 강조했습니다.

왜 중요한가

우리는 소니 AI의 이번 작업이 AI 비전 업계가 마주한 가장 불편한 진실을 정면으로 돌파한 시도라고 평가합니다.

지금까지 개발자들은 자신이 만든 비전 모델의 공정성을 검증하고 싶어도, 검증에 쓸 잣대 자체가 편향되어 있어 한계에 부딪혀 왔습니다. FHIBE는 본인의 동의와 자가 보고를 기반으로 한 신뢰도 높은 검증 도구를 제공하므로, 안면 인식이나 자율주행 관련 비전 알고리즘을 개발하는 팀이라면 즉시 모델 검증에 적용해 볼 가치가 충분합니다.

업계 전반에도 무단 웹 스크래핑에 의존하던 관행에 명확한 경고를 던집니다. 글로벌 데이터 프라이버시 규제가 날로 강화되는 상황에서, 출처가 불분명한 데이터로 구축된 AI 모델은 향후 법적 분쟁의 뇌관이 될 수밖에 없습니다.

다만 한계도 뚜렷합니다. 연구진이 직접 인정했듯 이러한 정직한 방식의 데이터 구축은 막대한 자본과 시간이 소요됩니다. 자금력이 풍부한 대기업이나 글로벌 연구소가 아닌 일반 스타트업 생태계가 이러한 윤리적 데이터 검증 기준을 어디까지 감당할 수 있을지는 앞으로 지켜봐야 할 문제입니다.