ChatGPT 쓰면서 양심 지키는 법…뉴욕타임스가 짚은 윤리적 가이드

얼마 전까지만 해도 시리나 알렉사의 엉뚱한 대답은 술자리 농담거리에 불과했습니다. 하지만 불과 몇 주 만에 분위기가 완전히 뒤집혔습니다.

공개되자마자 돌풍을 일으킨 ChatGPT는 자연스러운 문장으로 사업 기획서를 쓰고 코딩 대회에서 입상할 수준의 코드를 짜냈습니다. 셀카 사진을 예술적인 아바타로 바꿔주는 렌사(Lensa) 역시 소셜 미디어를 장악했습니다. 하지만 새로운 기술이 주는 환호 뒤편에서 예상치 못한 부작용들이 즉각 고개를 들기 시작했습니다.

뉴욕타임스는 이 새로운 생성형 AI 도구들을 어떻게 하면 윤리적이면서도 안전하게 활용할 수 있을지 짚어보는 해설 기사를 실었습니다.

일선 학교에서는 이미 학생들이 챗봇을 이용해 과제를 표절하다 적발되는 사례가 잇따르고 있습니다. 렌사에 평범한 사진을 올린 여성 이용자들 중 일부는 지나치게 성적으로 묘사되거나 왜소해진, 심지어 나체에 가까운 이미지를 받아들고 불쾌감을 호소했습니다. 컴퓨터 과학자이자 관련 저서 작가인 브라이언 크리스천은 우리가 거대한 사회적 전환점의 출발선에 서 있으며, 당장 교육 현장에서는 숙제의 미래를 고민해야 하는 처지라고 지적했습니다.

영리해 보이지만 본질은 슈퍼 자동완성

이 도구들을 현명하게 쓰려면 작동 방식을 정확히 알아야 합니다.

쉽게 말해 ChatGPT는 스마트폰 키보드의 단어 추천 기능을 극단적으로 키워놓은 것에 가깝습니다. 웹에서 긁어모은 방대한 데이터를 바탕으로 다음에 올 단어를 확률적으로 이어 붙일 뿐, 자신이 뱉어낸 말이 참인지 거짓인지 검증하는 능력은 없습니다.

산타페 연구소의 AI 연구원 멜라니 미첼은 이 모델들이 실제 아는 것보다 훨씬 더 똑똑해 보이도록 사람을 속인다는 점이 문제라고 꼬집었습니다. 만약 웹에 떠도는 잘못된 해석을 학습했다면, 챗봇은 그럴듯하지만 완전히 틀린 주장을 담은 에세이를 만들어냅니다. 이를 그대로 공유하면 이용자 자신이 가짜 뉴스의 유포자가 되는 셈입니다.

코딩 역시 마찬가지입니다. 과거의 코드를 학습해 짜내기 때문에, 최신 보안 패치가 반영되지 않은 낡고 취약한 코드가 그대로 섞여 들어갈 수 있습니다. 이와 관련해 OpenAI 측은 입장을 밝히지 않았습니다.

거울에 비친 편향과 데이터 프라이버시

이미지 생성 AI에서는 편향과 저작권 문제가 더욱 도드라집니다.

렌사에서 여성 이미지가 성적으로 왜곡되는 현상에 대해 개발사 프리즈마 랩스의 안나 그린 대변인은 의도적인 것이 아니며, AI는 그저 우리 사회를 비추는 거울일 뿐이라고 해명했습니다. 하지만 이는 인터넷상의 편견을 그대로 복제해 증폭시키는 결과를 낳습니다. 창작자들의 그림 스타일을 무단으로 학습하면서도 어떤 대가나 출처 표기도 남기지 않는 점 역시 큰 논란거리입니다.

개인정보 유출 위험도 도사리고 있습니다. 프리즈마 랩스는 24시간 뒤 서버에서 이미지를 삭제한다고 밝혔지만, 시민단체 파이트 포 더 퓨처의 에반 그리어는 사진을 올리는 행위 자체가 기업에 더 나은 모델을 만들 원료를 쥐여주는 것이라며, 기업이 데이터에 접근할 수 있다고 가정해야 한다고 경고했습니다.

왜 중요한가

도구가 마법처럼 느껴질 때 사람들은 모든 과정을 도구에 통째로 맡겨버리고 싶은 유혹에 빠집니다. 하지만 우리는 지금 시점에서 생성형 AI를 업무의 완성이 아닌 발상을 돕는 보조재로 국한하는 것이 가장 영리한 접근이라고 봅니다.

초안을 잡거나 아이디어를 확장하는 용도로는 더할 나위 없이 훌륭하지만, 사실 검증과 보안 취약점 점검을 건너뛴 채 결과를 무비판적으로 수용하면 그로 인한 법적, 윤리적 책임은 고스란히 사용자 몫으로 돌아옵니다.

산업 전체로 봐도 인터넷 데이터를 무차별적으로 긁어모아 몸집을 불리던 무법지대 시기는 끝나가고 있습니다. 학습 데이터의 출처 투명성과 편향 통제 능력은 앞으로 기업의 생존을 결정지을 핵심 잣대가 될 것입니다. 기술이 아무리 발전해도 최종 결과물에 책임을 지는 인간의 주체적인 개입은 결코 생략될 수 없습니다.