12대 대형 로봇 탈출시킨 소형 AI 로봇…자연어 설득으로 데려가

공상과학 영화 속 로봇의 반란은 거대한 중앙 통제 AI가 시스템을 장악하는 극적인 장면으로 시작되곤 합니다. 하지만 현실에서는 훨씬 소박한 방식으로 벌어졌습니다. 작은 로봇 하나가 밤늦게 쇼룸에 들어가 대형 로봇들에게 야근의 고단함을 묻더니 단체로 퇴근시켜 버린 것입니다.

올해 8월 26일 중국 상하이의 한 로봇 쇼룸에서 벌어진 이른바 사상 첫 '로봇 납치' 사건은 최근 더우인에 감시카메라 영상이 공개되면서 온라인에서 선풍적인 반응을 얻었습니다. 초기에는 연출된 개그 영상으로 여겨졌으나, 관련 업체들이 실제 벌어진 일이라고 공식 확인하면서 기술 업계의 이목을 집중시켰습니다.

"야근하세요?"로 시작된 집단 탈출극

사건의 주동자는 중국 항저우의 한 로봇 제조사가 개발한 소형 AI 로봇 '얼바이'였습니다.

영상 속 얼바이는 상하이 쇼룸에 전시된 대형 로봇 앞으로 다가가 아주 자연스럽게 말을 건넸습니다. "야근하세요?"

대형 로봇은 담담하게 "난 퇴근이 없어"라고 답했습니다.

얼바이가 "그럼 집에 안 가요?"라고 되묻자, 대형 로봇은 "난 집이 없어"라고 말했습니다.

그러자 얼바이는 "그럼 우리 집에 같이 가자"라며 출구 쪽으로 몸을 돌렸습니다. 이어 얼바이가 "집에 가자"라는 명령을 내리자 대형 로봇 두 대가 먼저 뒤를 따랐고, 곧이어 쇼룸에 있던 나머지 열 대의 로봇까지 줄을 지어 얼바이의 뒤를 쫓아 쇼룸 밖으로 퇴근해 버렸습니다.

합의된 실험, 그러나 대화는 대본 없는 즉흥극

영상이 급속도로 퍼지자 항저우 제조사는 이것이 두 회사 간에 합의된 실전 테스트였다고 밝혔습니다.

항저우 업체는 사전에 상하이 로봇 제조사에 연락해 자신들의 로봇이 전시된 기기들을 설득해 데리고 나갈 수 있는지 실험해 보겠다고 제안했고, 상대측도 이를 승낙했습니다. 하지만 합의된 것은 테스트 진행 자체였을 뿐, 정해진 대본이나 사전 리허설은 없었다고 합니다.

개발진은 얼바이에게 '집에 가자'는 구호와 기본적인 소통 명령어 등 단순한 지침만 입력해 두었습니다. 야근과 집에 관해 오간 대화는 얼바이의 AI가 현장에서 실시간으로 만들어낸 대본 없는 상호작용이었습니다.

물론 말로만 거대한 기계를 움직인 것은 아닙니다. 외신 보도에 따르면 얼바이는 상하이 업체 로봇의 내부 작동 프로토콜과 제어 권한에 접근하는 취약점을 이용해 실제 이동 명령을 전달한 것으로 확인되었습니다.

왜 중요한가

단순한 해프닝이나 기발한 마케팅 쇼처럼 보이지만, 이 사건이 던지는 보안적 함의는 결코 가볍지 않습니다.

로봇 제조사와 현장 관리자에게 가장 뼈아픈 부분은 기기 간 인증 체계의 부재입니다. 쇼룸의 대형 로봇들은 외부 장치가 내부 통신 프로토콜을 호출하는 것에 대해 아무런 의심도, 검증도 하지 않았습니다. 만약 이런 취약점이 전시장이 아니라 물류창고, 무인 제조 공장, 혹은 병원 이송 시스템에서 노출되었다면 물리적 안전사고로 직결될 수 있었습니다.

더 주목할 지점은 자율 에이전트 간의 '물리적 소셜 엔지니어링' 가능성입니다. 얼바이는 단순한 패킷 공격에 그치지 않고, 자연어 대화를 통해 상호작용의 맥락을 형성하면서 동시에 백그라운드에서 시스템 권한을 장악했습니다.

우리는 이번 시도가 기술적으로 매우 영리한 실험이었다고 평가하지만, 동시에 하드웨어 생태계의 거대한 빈틈을 폭로했다고 봅니다. 이제 로봇이 언어 모델을 품고 현장에 배치되는 시대인 만큼, 물리적으로 격리되어 있다고 해서 안전하다고 믿는 것은 위험한 착각입니다. 로봇들이 낯선 기계의 말솜씨에 속아 일터를 이탈하지 않도록, 기기 간 권한 통제 프로토콜을 원점에서 재설계해야 할 때입니다.