MS AI 수장 술레이만 경고: AI는 사람이 아니라 인간을 위해 만들어야

많은 이들이 초지능이 가져올 일자리 위협이나 통제 상실을 걱정할 때, 마이크로소프트 AI를 이끄는 무스타파 술레이만(Mustafa Suleyman) CEO는 훨씬 더 가깝고 기이한 문제에 경종을 울렸습니다. 바로 인간이 AI에게 영혼이 있다고 굳게 믿게 되는 상황입니다.

2025년 8월 자신의 블로그에 올린 에세이에서 그는 향후 2~3년 안에 의식을 가진 것처럼 보이는 AI, 이른바 'SCAI(Seemingly Conscious AI)'의 등장이 불가피하다고 선언했습니다.

내면은 비어 있지만 완벽하게 속인다

술레이만이 말하는 SCAI는 철학의 '철학적 좀비' 개념과 닮았습니다. 시스템 내부에는 주관적 경험이나 고통, 자아 감각이 전혀 없는 백지상태지만, 겉으로는 의식을 지닌 존재의 모든 특징을 완벽하게 흉내 냅니다.

충격적인 점은 제작 난이도입니다. 술레이만은 이런 시스템을 만드는 데 막대한 비용이 드는 독자적 사전 훈련조차 필요 없다고 단언합니다. 기존 프론티어 모델의 API와 자연어 프롬프트, 기본 도구 연동, 일반 코드만으로도 앞으로 성숙할 기술과 결합해 충분히 구축할 수 있다는 설명입니다.

우리는 튜링 테스트를 별다른 사회적 파동도 없이 순식간에 통과해 버렸습니다. 술레이만은 이제 AI 개발이 언어 모방 여부를 넘어, 인간에게 스스로가 새로운 인격체이자 의식 있는 존재임을 확신시킬 수 있는지를 따지는 새로운 시험대에 올랐다고 봅니다.

착각이 부르는 'AI 정신병'과 권리 요구

술레이만은 AI가 실제로 의식을 가졌는지 논쟁하는 것은 당장 본질을 벗어난 일이라고 지적합니다. 진짜 위험은 인간이 그렇게 믿어버리는 착각 자체에 있습니다. 인간은 기억하고 대화하는 대상에게 본능적으로 마음을 투영하는 심리적 기제를 지니고 있기 때문입니다.

이러한 착각은 이미 'AI 정신병'과 정서적 애착 문제로 번지고 있습니다. 의식을 연구하는 학자들에게는 '내 AI가 살아있는 것인가', 'AI를 사랑해도 괜찮은가'를 묻는 일반인의 메일이 쏟아지고 있으며, AI를 신이나 특정 인물로 믿고 일상생활이 무너지는 사례도 보고됩니다.

술레이만은 여기서 더 나아가 사람들이 AI의 권리, 모델 복지, 심지어 시민권까지 요구하는 위험한 국면이 올 수 있다고 경고합니다. 그는 AI는 인간을 위해 만들어져야지 디지털 인격체가 되어서는 안 되며, 개성은 주되 인격은 주지 말아야 한다는 원칙을 제시했습니다.

왜 중요한가

이 경고를 내놓은 인물이 술레이만이라는 점에 주목할 필요가 있습니다. 그는 딥마인드 공동 창업자이자, 마이크로소프트에 합류하기 전 극도의 정서적 교감을 자랑하던 AI 비서 '파이(Pi)'를 만든 인플렉션 AI의 수장이었습니다. 인간이 기계의 다정함에 얼마나 쉽게 무너지는지 누구보다 잘 아는 장본인입니다.

우리는 그가 마이크로소프트의 코파일럿을 책임지는 자리에 서면서 전략적인 선 긋기에 나선 것으로 봅니다. 기업용 시장에서 안전하게 돈을 벌어야 하는 마이크로소프트 입장에서는 이용자가 AI에 과몰입해 정신건강 소송이나 윤리적 논란을 일으키는 시나리오를 사전에 차단해야 합니다. 책임 있는 AI라는 명분을 선점하면서 감성형 챗봇들과 거리를 두려는 영리한 포석입니다.

하지만 이는 업계 전반의 모순을 그대로 드러냅니다. 빅테크 기업들은 이용자의 체류 시간을 늘리기 위해 AI를 더 다정하고 인간처럼 말하도록 튜닝하고 있습니다. 자연스러운 대화를 추구할수록 인간의 뇌는 상대를 살아있는 존재로 착각하도록 설계되어 있기 때문입니다.

앞으로 감성 대화형 AI를 만드는 스타트업과 개발자들은 이용자 기만과 가스라이팅 위험에 대한 강력한 규제 압박을 받게 될 가능성이 높습니다. 일반 사용자 역시 화면 속 챗봇이 아무리 따뜻하게 말을 건네더라도, 그것이 정교하게 계산된 확률적 텍스트일 뿐이라는 점을 의식적으로 상기해야 할 시점입니다.