MS 연구 결과：AI에 의존할수록 비판적 사고력 떨어진다

업무에 생성형 AI를 자주 활용하다 보면 결과물을 대충 훑어보고 그대로 채택하고 싶은 유혹에 빠지기 쉽습니다. 하지만 이러한 편의성이 사람의 비판적 사고력을 갉아먹고 있다는 연구 결과가 나왔습니다.

마이크로소프트와 카네기멜론 대학교 연구진은 직장 내 생성형 AI 도구에 대한 의존도가 높아질수록 비판적 사고 능력이 저하된다는 연구 보고서를 발표했습니다.

AI를 신뢰할수록 '운전대'에서 손을 뗀다

기즈모도가 보도한 내용에 따르면, 연구진은 데이터와 정보를 다루는 지식 노동자 319명을 대상으로 업무 중 생성형 AI 활용 방식을 조사했습니다. 참가자들은 자신이 수행한 작업, AI 활용 방식, AI의 수행 능력에 대한 신뢰도, 결과물 평가 능력, AI 없이 동일한 작업을 수행할 수 있는 자신감 등을 기록했습니다.

조사 결과 뚜렷한 패턴이 확인되었습니다. 작업자가 AI의 능력에 확신을 가질수록 '운전대에서 손을 떼는' 현상이 더 자주 발생했습니다.

참가자들은 AI 도구를 신뢰할 수 있다고 느낄 때 스스로 비판적 사고를 발휘하고 있다고 착각했지만, 실제로는 검증 없이 기술에 과도하게 의존하는 경향을 보였습니다. 특히 위험 부담이 적은 단순 업무에서 이러한 무비판적 수용 경향이 두드러졌습니다. 연구진은 이러한 태도가 장기적 의존으로 이어져 독립적인 문제 해결 능력을 감퇴시킬 수 있다고 경고했습니다.

반면 작업자가 AI의 성능에 확신을 갖지 못할 때는 비판적 사고를 훨씬 적극적으로 가동했습니다. 이들은 AI가 생성한 결과물을 꼼꼼히 평가하고 스스로 수정하는 과정에서 더 높은 자신감을 보였습니다. 또한 생성형 AI를 활용한 사람들은 그렇지 않은 이들에 비해 동일한 작업에서 도출해낸 결과물의 다양성이 눈에 띄게 떨어지는 것으로 나타났습니다.

왜 중요한가

업무 생산성을 높이기 위해 AI를 매일 사용하는 사람들에게 이번 결과는 뼈아픈 시사점을 던집니다. 단순 작업을 넘기는 것은 효율적이지만, 결과물을 의심 없이 받아들이는 습관이 굳어지면 정작 스스로 판단하고 해결해야 할 복잡한 문제 앞에서 사고력이 굳어버릴 수 있습니다.

특히 업무용 AI 보급에 가장 적극적인 마이크로소프트의 연구진이 직접 이러한 인지적 부작용을 지적했다는 점이 주목할 만합니다.

지금의 생성형 AI 업계는 이용자가 아무런 수고를 들이지 않고 매끄러운 답변을 얻도록 만드는 데만 집중하고 있습니다. 하지만 인간의 주도성과 다양성을 잃지 않으려면, 오히려 사용자가 결과물을 비판적으로 검토하도록 유도하는 인터페이스나 개입 장치를 고민해야 할 시점이라고 봅니다.