구글, 10대 청소년 대상 생성형 AI 검색 개방…안전장치 대폭 강화

구글이 검색 서비스에 도입한 대화형 생성 AI 기능인 SGE를 미국의 13세부터 17세 청소년에게 확대 적용한다고 발표했습니다. 미국 내 해당 연령대 사용자는 구글 계정에 로그인한 뒤 구글 앱이나 데스크톱 크롬의 서치 랩스를 통해 신청할 수 있습니다.

대화형 검색에 익숙한 10대와 추가 안전장치

구글이 청소년으로 대상을 넓힌 배경에는 이용자 데이터가 있습니다. SGE 출시 이후 18세에서 24세 사이의 사용자들이 가장 높은 만족도를 보였으며, 젊은 층일수록 단어 위주 검색보다 대화하듯 질문하는 방식을 선호하는 것으로 나타났습니다.

미성년자가 사용하는 만큼 안전장치도 보강되었습니다. 구글 제품 관리 시니어 디렉터 헤마 부다라주는 청소년 발달 전문가들의 연구를 반영해 유해 콘텐츠 차단 기준을 강화했다고 설명했습니다. 특히 불법 물질이나 연령 제한 품목, 집단 괴롭힘과 관련된 출력에 대해 한층 강력한 방어벽을 마련했습니다.

거짓 전제에 동조하는 AI의 허점 개선

이번 업데이트에서는 AI 검색이 잘못된 주장을 사실처럼 맞장구치는 현상을 막기 위한 조치도 포함되었습니다.

사용자의 질문 자체에 거짓이나 공격적인 전제가 깔려 있을 경우, 신뢰할 만한 웹페이지 정보가 있더라도 AI가 이를 그대로 긍정해 버리는 문제가 있었습니다. 구글은 AI 모델이 이런 편향된 전제를 감지하도록 학습을 진행 중이며, 민감한 주제의 경우 대규모 언어 모델이 초안을 스스로 비판하고 안전 기준에 맞게 다시 작성하는 방식을 시험하고 있습니다.

아울러 일반 검색에 있던 ‘이 결과에 대해’ 기능을 SGE 응답에도 도입했습니다. 사용자는 AI가 답변을 어떻게 구성했는지 확인할 수 있으며, 조만간 응답에 인용된 각 웹 링크에도 출처 배경 정보를 확인할 수 있는 기능이 적용될 예정입니다. SGE는 최근 이미지와 영상 지원, 여행 추천 기능을 추가하고 인도와 일본으로 서비스 지역을 넓힌 바 있습니다.

왜 중요한가

학생 입장에서는 숙제를 하거나 낯선 개념을 파고들 때 꼬리 질문을 이어가며 답을 찾을 수 있어 탐색 시간이 크게 줄어듭니다. 하지만 안전장치가 마련되어 있더라도 AI 특유의 그럴듯한 오답 가능성을 완전히 배제할 수는 없기 때문에, 스스로 출처를 검증하는 태도가 더욱 중요해집니다.

업계 측면에서 보면 이는 미래 세대의 검색 주도권을 쥐기 위한 방어전입니다. 10대 사용자들이 틱톡이나 인스타그램 등 소셜 미디어로 검색 대상을 옮겨가는 흐름 속에서, 구글은 자사 플랫폼 안에서 대화형 검색 경험을 일찌감치 습관화시켜야 하는 과제를 안고 있습니다.

사용자의 잘못된 유도 질문에 AI가 휩쓸리지 않도록 자가 검토 방식을 도입한 점은 기술적으로 적절한 접근으로 보입니다. 다만 청소년 이용자들은 시스템의 빈틈을 파고드는 데 능숙한 만큼, 정교해진 안전 필터가 실제 다양한 변칙 질문들을 얼마나 안정적으로 걸러낼 수 있을지는 계속 지켜봐야 할 부분입니다.