메타, 위험 평가의 90%를 AI로 대체 추진…직원들 우려 고조

빅테크 기업에서 새로운 기능을 배포할 때 가장 까다로운 과정은 코드 디버깅이 아니라 개인정보 보호와 안전성 심사였습니다.

이제 메타는 이 심사관 자리를 인공지능에 넘기려 하고 있습니다. NPR이 입수한 메타 내부 문서에 따르면, 페이스북과 인스타그램, 왓츠앱 전반의 위험 평가 절차 중 최대 90%가 곧 자동화될 예정입니다.

설문 작성 후 즉시 승인, 인간 심사는 예외로

지금까지 메타는 알고리즘 업데이트나 신규 안전 기능, 콘텐츠 공유 정책 변경 시 전담 평가팀이 이용자 프라이버시 침해나 미성년자 유해성 여부를 면밀히 검토해 왔습니다.

새로운 시스템에서는 제품 개발팀이 프로젝트 관련 설문을 작성하면 AI 시스템이 즉시 결정을 내립니다. 잠재적 위험 요인과 이를 해결하기 위한 요구 사항이 시스템을 통해 도출됩니다.

개발진은 해당 요구 사항을 충족했다고 자체 확인하기만 하면 곧바로 기능을 수십억 명의 사용자에게 배포할 수 있습니다. 기존에는 인간 검토자의 승인이 필수였지만, 이제는 개발팀이 추가 피드백을 요청하거나 완전히 새로운 위험이 발생한 경우에만 수동 검토가 진행됩니다.

메타 측은 의사결정을 간소화하기 위한 조치이며 복잡한 사안에는 여전히 인간 전문가를 투입하고 저위험 결정만 자동화한다고 밝혔습니다. 하지만 NPR이 확인한 내부 슬라이드에는 AI 안전, 청소년 위험, 가짜 뉴스 및 폭력 콘텐츠를 다루는 영역까지 자동화 검토 대상에 포함된 것으로 드러났습니다.

빨라진 배포 속도와 커지는 내부 우려

개발자들은 기능 업데이트 속도가 획기적으로 빨라진다며 반기는 분위기지만, 전현직 직원들 사이에서는 우려의 목소리가 큽니다.

2022년까지 메타에서 책임 있는 혁신 부문 디렉터를 맡았던 츠비카 크리거는 엔지니어와 기획자는 프라이버시 전문가가 아니며 제품 출시 속도로 평가받는다고 지적했습니다. 이러한 셀프 평가 방식은 중대한 위험을 놓치는 요식 행위로 전락할 수 있다는 설명입니다.

다만 유럽연합 사용자는 이번 개편의 직접적인 영향에서 다소 벗어날 것으로 보입니다. 내부 공지에 따르면 유럽연합의 디지털서비스법 등 엄격한 플랫폼 규제를 준수하기 위해 아일랜드 본사가 직접 제품과 데이터를 계속 감독할 예정입니다.

왜 중요한가

AI를 활용해 자사 서비스의 안전성을 직접 검증하겠다는 메타의 시도는 효율성을 극대화하려는 승부수입니다.

생성형 AI 경쟁이 치열해지면서 제품 출시 주기가 기업의 생존을 가르는 상황이 되었습니다. 지루한 내부 심사 병목을 없애 개발 속도를 끌어올린 점은 비즈니스 관점에서 매우 기민한 선택입니다.

하지만 우리는 선수가 직접 채점관 역할을 겸하게 만든 구조에 심각한 허점이 있다고 봅니다. 개발자의 핵심 성과 지표가 여전히 출시 속도와 사용자 지표에 묶여 있는 한, 자체 평가를 통해 엄격한 기준을 적용하기는 현실적으로 어렵습니다.

특히 청소년 보호나 허위 정보 확산 같은 복합적인 사회적 위험까지 AI에 맡길 경우 예기치 못한 부작용이 현실 세계로 번질 가능성이 큽니다. 결국 각국 규제 당국이 기업의 AI 자체 위험 평가를 법적으로 인정할 것인지에 대한 새로운 논쟁을 촉발할 것으로 보입니다.