마이크로소프트, AI 윤리·사회 팀 전원 해고: 속도전에 사라진 안전장치

미지의 가파른 내리막길을 전속력으로 질주하는 차 안에서, 운전자가 속도를 더 내겠다며 브레이크를 떼어내는 장면을 상상해 보십시오.

생성형 AI 패권을 쥐려는 마이크로소프트 안에서 지금 벌어진 일이 바로 그렇습니다. 3월 14일 외신 보도에 따르면, 마이크로소프트는 1만 명 규모의 구조조정 과정에서 AI 조직 산하의 '윤리·사회 팀' 전원을 해고했습니다.

이 팀은 한가하게 원칙만 읊던 부서가 아니었습니다. 2020년 전성기 시절 엔지니어와 디자이너, 철학자 등 30여 명이 몸담았으며, AI가 초래할 위험을 개발자가 미리 시뮬레이션해 볼 수 있는 롤플레잉 게임 'Judgment Call' 같은 실무 도구를 직접 만들어 배포하던 현장 조직이었습니다.

소시지를 만들 땐 많은 것이 갈려 들어간다

하지만 신제품 출시에 눈이 먼 경영진에게 이들의 안전 점검은 거추장스러운 걸림돌이었습니다.

팀은 이미 지난 10월 약 7명 수준으로 축소된 상태였습니다. 당시 유출된 회의 녹음에 따르면, AI 부문 부사장 존 몽고메리는 사티아 나델라 CEO와 케빈 스콧 CTO로부터 신속하게 제품을 출시하라는 압박이 매우 거세다고 털어놓았습니다. OpenAI의 최신 모델을 전속력으로 고객 손에 쥐여주라는 명령이 떨어졌다는 뜻이었습니다.

한 직원이 사회적 악영향을 우려하며 재고를 요청하자, 몽고메리는 단칼에 거절했습니다. 그는 "소시지를 만드는 과정에서는 많은 것들이 갈려 들어갈 수밖에 없다"며 냉정한 태도를 보였습니다. 결국 지난 3월 6일, 남은 팀원들은 갑작스러운 줌 회의에서 팀 해체 통보를 받았습니다.

마이크로소프트는 원칙을 수립하는 '책임 있는 AI 오피스'는 여전히 건재하다고 해명했습니다. 하지만 퇴사자들은 제품을 실제로 만드는 현장에서 어떻게 원칙을 적용할지 알려주던 팀이 사라져 서비스 설계에 커다란 구멍이 뚫렸다고 지적합니다.

무시된 저작권 경고와 속도전

갈등의 정점에는 OpenAI 기술을 무리하게 도입하려던 '빙 이미지 크리에이터' 문제가 있었습니다.

지난해 윤리 팀은 DALL-E 기반의 이 도구가 심각한 저작권 침해를 부를 수 있다는 내부 보고서를 작성했습니다. 살아있는 예술가의 이름만 넣어도 원작과 구분이 불가능한 수준의 모작이 쏟아져 나왔기 때문입니다. 팀은 생존 작가의 이름을 프롬프트에서 차단하라는 등 구체적인 방안을 제안했지만, 경영진은 이를 무시하고 시범 출시를 강행했습니다.

숫자 앞에서 윤리는 쉽게 뒷전으로 밀렸습니다. 마이크로소프트는 OpenAI에 110억 달러를 쏟아부었고, 구글로부터 검색 점유율을 1%만 빼앗아 와도 연간 20억 달러의 매출이 발생한다고 계산했습니다. 실제로 빙의 일일 활성 이용자가 1억 명을 넘어서고 신규 유입이 급증하자 경영진의 속도전은 더 거세졌습니다.

게티이미지가 AI 업체를 상대로 저작권 소송을 제기하는 등 법적 위험이 현실화하고 있지만, 경고음을 내던 사내 감시자들은 이미 짐을 싼 뒤였습니다.

왜 중요한가

우리는 마이크로소프트의 이번 결정이 눈앞의 성과에 눈이 먼 매우 위험한 도박이라고 봅니다.

추상적인 윤리 규정을 만드는 부서만 남겨두고, 개발자 옆에서 실제 위험을 걸러내던 실무 조직을 없앤 것은 명백한 보여주기식 행정에 불과합니다. 평범한 이용자와 창작자 입장에서는, 빅테크가 저작권 침해나 편향 같은 부작용에 대한 검증 책임을 고스란히 사회로 떠넘겼다는 뜻이기도 합니다.

업계 전반에도 나쁜 신호를 보냈습니다. 과거 구글이 윤리 연구원 팀닛 게브루를 해고했을 때 거센 역풍을 맞았음에도, 마이크로소프트는 구글을 꺾고 시장을 선점하겠다는 욕심에 똑같은 길을 걷기로 택했습니다.

브레이크를 떼어내면 당장은 남들보다 빠르게 치고 나갈 수 있을지 모릅니다. 하지만 저작권 소송과 기술 남용이라는 대형 사고를 마주했을 때, 내부 점검자를 잃어버린 폭주 기관차가 감당해야 할 대가는 결코 가볍지 않을 것입니다.