OpenAI 사옥 앞 시위 발생: AGI 개발 중단과 미군 협력 철회 촉구

과거 실리콘밸리의 시위가 치솟는 집값이나 통근 버스를 향했다면, 이번에는 인류를 뛰어넘는 인공지능을 만들지 말라는 경고가 본사 문 앞을 가득 채웠습니다.

월요일 저녁, 샌프란시스코에 위치한 OpenAI 본사 앞에 수십 명의 시위대가 모여들었습니다. 퇴근길에 나선 직원들을 향해 시위대는 ChatGPT와 같은 첨단 AI 개발을 멈추고 직장을 떠날 것을 촉구하며, 미군과의 협력 관계를 즉각 청산하라고 요구했습니다.

사라진 군사 이용 금지 조항

이번 시위는 Pause AI와 No AGI라는 두 활동가 단체가 주도했습니다. 집회의 직접적인 도화선이 된 것은 지난달 OpenAI가 이용 약관에서 '군사적 목적 사용 금지' 문구를 조용히 삭제한 사건이었습니다.

약관 변경 며칠 뒤, OpenAI가 펜타곤을 고객으로 맞이해 사이버 보안 프로젝트 협력에 착수했다는 사실이 알려졌습니다. 시위 주최 측은 회사의 편의에 따라 윤리적 안전선이 손바닥 뒤집듯 바뀐다면 어떤 약속도 신뢰할 수 없다고 비판했습니다.

Pause AI의 대표 조직자 홀리 엘모어는 샘 알트먼의 거취 문제를 꼬집었습니다. 지난해 6월에는 이사회가 자신을 해임할 수 있다고 장담했으나 11월 사태 때 결국 해임되지 않았던 사례를 들며, 군사 정책 변경 역시 사내 규율이 회사의 야망을 전혀 통제하지 못한다는 증거라고 지적했습니다.

잠정 중단이냐, 완전한 백지화냐

두 단체는 AGI 개발 저지라는 큰 틀에는 동의하지만 세부적인 목표에서는 차이를 보였습니다.

Pause AI는 안전이 완벽하게 입증될 때까지 최첨단 AGI 연구를 전 세계적으로 무기한 중단하자는 입장입니다. 안전 기준만 충족된다면 개발 자체를 완전히 배제하지는 않습니다.

반면 No AGI는 훨씬 강경합니다. 대표 샘 커치너는 애초에 AGI를 만들어서는 안 된다고 주장합니다. 기계가 모든 일을 대신하는 세상에서는 노동을 통해 삶의 의미를 찾던 인간이 극심한 심리적 위협을 겪게 된다는 이유입니다. 그는 기계 지능 대신 인간 중심의 뇌 에뮬레이션 같은 연구로 선회해야 한다고 말합니다.

OpenAI는 재난적 위험을 평가하는 대비팀을 신설하고, 알트먼 CEO 역시 단순한 언어 모델 확장만으로는 진정한 초지능에 도달할 수 없다고 해명해 왔습니다. 하지만 시위대는 자율 규제의 한계를 지적하며 앞으로도 단체 행동을 이어가겠다고 밝혔습니다.

왜 중요한가

비록 수십 명이 모인 집회였지만, 우리는 이번 사건이 AI 산업이 맞닥뜨린 가장 뼈아픈 모순을 정면으로 드러냈다고 봅니다.

OpenAI는 '인류 전체의 이익'이라는 비영리적 이상을 앞세워 최고의 인재와 대중적 신뢰를 얻었습니다. 하지만 막대한 컴퓨팅 비용을 감당하기 위해 상업화에 속도를 내면서, 결국 군사 협력 금지라는 금기까지 풀고 국방 프로젝트를 수주했습니다. 자율적으로 세운 윤리적 방어벽이 자본과 수익 논리 앞에서 얼마나 쉽게 허물어지는지 보여준 셈입니다.

개발자와 기업 고객에게도 이는 중요한 시사점을 던집니다. 빅테크 기업이 내세우는 안전 선언과 이용 정책이 비즈니스 상황에 따라 언제든 바뀔 수 있는 유동적인 기준이라는 점이 분명해졌기 때문입니다.

이제 기업의 선의에 기댄 '자율 규제'의 유효기간은 끝났습니다. 각국 정부의 법적 규제가 강화되는 가운데, 기술을 직접 만드는 엔지니어의 양심에 호소하는 사회적 압박까지 본격화되면서 AI 선도 기업들이 치러야 할 사회적 비용은 갈수록 커질 것입니다.