메타, 광고 차별 막는 AI 시스템 'VRS' 미국 도입

주택 임대나 채용 광고를 볼 때, 알고리즘이 내 성씨나 평소 활동 기록을 바탕으로 특정 광고를 아예 보여주지 않는다면 어떨까요.

미국 법무부 및 주택도시개발부와의 소송 합의에 따라, Meta가 광고 배포 과정의 차별을 방지하기 위한 새로운 인공지능 시스템인 VRS(Variance Reduction System, 분산 감소 시스템)를 미국에 정식 도입했습니다.

AI 편향을 잡기 위해 또 다른 AI를 투입하다

광고주가 인종이나 성별을 직접 타깃팅하지 않더라도, 이용자의 관심사나 앱 내 활동 패턴에 따라 광고가 특정 계층에 편중되어 도달하는 문제가 지속적으로 제기되어 왔습니다.

이번에 적용된 VRS는 광고가 일정 수의 이용자에게 노출된 뒤, 실제로 광고를 본 사람들의 인구통계학적 분포를 머신러닝으로 분석합니다.

인종과 민족 구성을 추정하기 위해 성씨와 지리 정보를 결합한 베이지안 추정 방식(BISG)을 적용했으며, 개인정보 보호를 위한 보완 조치도 함께 구축했습니다. 실제 도달 집단이 원래 대상 인구통계와 비교해 편차를 보이면, 시스템이 개입해 배포 비율을 보다 균등하게 조정하는 방식입니다.

Meta는 기존의 특수 광고 잠재고객 기능을 이미 중단했으며, 이번 VRS를 주택 광고에 우선 적용한 뒤 향후 신용 및 구인 광고로도 확대할 예정입니다.

사법부의 직접 감시를 받게 된 Meta 광고 시스템

이번 조치는 단순한 자체 기능 개선이 아니라, 2022년 6월 맨해튼 연방법원에서 맺은 합의에 따른 법적 의무입니다.

외신에 따르면 Meta의 광고 시스템이 사법적 감시를 받게 된 것은 이번이 처음입니다. 독립 감사 기관인 Guidehouse가 해당 시스템을 평가하고 특정 지표의 수정 필요 여부를 지속해서 점검하게 됩니다.

미 법무부의 크리스틴 클라크 차관보는 이번 조치가 알고리즘 차별 역시 민권법 위반이라는 점을 명확히 하고, 빅테크 기업에 법적 책임을 묻는 강력한 신호가 될 것이라고 강조했습니다.

왜 중요한가

일반 이용자 입장에서 주택, 대출, 채용과 같은 필수적인 기회는 알고리즘의 블랙박스에 의해 차단되어서는 안 되는 중요한 정보입니다. 이용자가 시스템의 변화를 눈으로 체감하기는 어렵더라도, 보이지 않는 곳에서 불공정한 정보 격차를 줄여준다는 점에서 의미가 있습니다.

디지털 광고 산업 전반에도 큰 영향을 미칠 것으로 보입니다. 전환율과 클릭률만 높이면 그만이던 알고리즘 중심 광고 시장에 배포 결과의 사회적 형평성이라는 명확한 규제 기준이 세워졌기 때문입니다.

머신러닝의 부작용을 또 다른 머신러닝으로 교정하려는 시도는 기술적으로 영리한 타협점이지만, 차별을 없애기 위해 역설적으로 이용자의 인종적 배경을 추정해야 한다는 구조적 한계는 여전히 남아 있습니다. Meta가 프라이버시 보호 장치를 내세우고 있음에도 불구하고, 민감한 인구통계 정보를 다루는 방식에 대한 사회적 검증은 계속 이어질 것으로 보입니다.