오라클 래리 엘리슨, 미래 AI의 상시 대규모 감시 사회 예견

현대 도시에서 스마트 초인종과 보안 카메라 사이를 걷다 보면 이미 거대한 감시망 속에 살고 있다는 느낌을 받기 쉽습니다. 하지만 오라클의 래리 엘리슨 회장 겸 CTO에게 이것은 시작에 불과합니다.

엘리슨 회장은 최근 열린 오라클 금융 분석가 회의에서 AI가 주도하는 미래 감시 네트워크에 대한 구상을 밝혔습니다. 그는 모든 것이 끊임없이 기록되고 보고되는 환경 덕분에 시민들이 최선의 행동을 하게 될 것이라고 주장했습니다.

초인종부터 순찰 드론까지 연결하는 감시망

엘리슨이 제시한 구상은 광범위합니다. 앞으로 AI는 보안 카메라, 경찰 바디캠, 도어벨 카메라, 차량 블랙박스 등에서 나오는 방대한 영상 데이터를 실시간으로 모니터링하고 분석하게 됩니다.

이러한 감시는 일반 시민뿐만 아니라 법 집행관에게도 적용됩니다. 그는 모든 경찰관이 상시 감시를 받게 되며, 현장에서 문제가 발생하면 AI가 즉시 이를 감지해 적절한 책임자에게 보고할 것이라고 말했습니다.

위험한 경찰차 추격전 역시 자율주행 드론으로 대체될 것이라고 내다봤습니다. 자율 드론 시대에는 도주 차량을 드론으로 뒤쫓기만 하면 되므로 상황이 매우 단순해진다는 설명입니다.

블룸버그 기준 순자산 1570억 달러를 보유한 엘리슨의 오라클은 일론 머스크의 스페이스X와 협력하는 등 현재 AI 인프라 사업 확장에 집중하고 있습니다.

알고리즘 편향이라는 현실적 한계

하지만 AI 상시 감시가 범죄를 획기적으로 줄일 것이라는 주장은 역사적 검증을 거치지 못했습니다.

미국 내 기존 경찰 데이터는 편향성을 띠고 있는 경우가 많아, 이를 AI 모델에 학습시킬 경우 특정 지역에 범죄가 더 많다고 판단해 편향된 피드백 루프를 생성할 위험이 큽니다.

실제로 2019년 로스앤젤레스 경찰국은 범죄 예측 프로그램을 중단한 바 있습니다. 내부 감사 결과 해당 프로그램이 흑인과 라틴계 주민을 더 과도하게 감시하는 결과를 낳았다는 사실이 밝혀졌기 때문입니다.

왜 중요한가

우리는 엘리슨의 발언이 단순한 기술적 전망을 넘어, 대형 클라우드 기업이 공공 안전과 감시 인프라를 차세대 핵심 수익원으로 보고 있음을 보여준다고 생각합니다. 수많은 민간 카메라와 공공 감시 장비의 데이터를 실시간 처리하는 일은 클라우드 기업에 막대한 매출을 가져다줍니다.

경찰관의 비위도 함께 감시한다는 명분을 내세운 점은 영리하지만, 민간 영역의 초인종과 블랙박스까지 공공 감시망의 일부로 흡수하겠다는 발상은 심각한 프라이버시 침해 우려를 낳습니다.

더 큰 문제는 데이터의 편향성입니다. 과거 사례처럼 편향된 데이터를 바탕으로 작동하는 감시 AI는 특정 집단에 대한 과도한 통제로 이어지기 쉽습니다. 제도적 안전장치 없는 감시망 도입은 사회적 안전보다는 더 큰 갈등을 불러올 위험이 큽니다.