틱톡, AI 기반 스마트 키워드 필터 도입: 유의어까지 자동 차단

틱톡이 추천 피드(For You feed)를 사용자가 직접 세밀하게 제어할 수 있도록 돕는 AI 기반 ‘스마트 키워드 필터’와 토픽 관리 기능을 공개했습니다.

그동안 특정 단어를 일일이 차단해야 했던 번거로움을 줄이고, AI가 유의어와 관련 단어까지 한 번에 인식해 피드 노출을 제한하는 방식입니다.

유의어까지 묶어서 걸러내는 AI 필터

기존 틱톡의 키워드 필터는 사용자가 등록한 단어가 포함된 영상을 차단하는 기능으로, 전 세계적으로 2억 개 이상의 단어가 등록되며 활용되어 왔습니다. 하지만 단어의 형태를 조금만 바꾸거나 비슷한 다른 표현을 쓰면 차단을 피해 피드에 뜨는 한계가 있었습니다.

새로 도입된 스마트 키워드 필터는 AI를 활용해 등록한 키워드의 동의어나 유사 표현까지 자동으로 감지해 필터링합니다. 시스템은 AI가 추가로 어떤 단어를 차단 목록에 포함했는지 사용자에게 투명하게 보여줍니다.

틱톡은 향후 몇 달 안에 AI가 선별한 세부 키워드를 사용자가 직접 선택하거나 해제할 수 있도록 지원할 예정입니다. 등록 가능한 키워드 수도 200개로 2배 늘어나며 대량 등록 기능도 추가됩니다.

함께 도입된 ‘토픽 관리’ 기능은 예술, 여행, 자연, 스포츠 등 10개 이상의 주요 카테고리에 대해 추천 빈도를 조절할 수 있게 돕습니다. 특정 주제를 완전히 없애는 대신 노출 빈도만 조절하는 방식입니다.

이번 기능은 청소년과 성인 계정 모두에 적용되며, 추천 알고리즘의 원리를 설명하는 가이드와 크리에이터 협업 교육 영상도 함께 제공됩니다.

왜 중요한가

피로감을 유발하는 콘텐츠나 특정 챌린지에 지친 사용자에게 매우 유용한 기능입니다. 동의어를 하나하나 찾아 등록할 필요 없이 단어 몇 개만으로 피드를 깔끔하게 정돈할 수 있어 바로 사용해 볼 가치가 있습니다.

산업적 측면에서 보면, 틱톡은 알고리즘의 중독성과 유해 콘텐츠 반복 노출에 대한 규제 당국의 압박을 사용자 통제권 강화로 풀어내려 하고 있습니다. 추천 알고리즘이라는 핵심 자산을 훼손하지 않으면서도, AI를 활용해 안전장치를 덧씌우는 영리한 대응입니다.

다만 AI가 문맥을 오판해 무관한 유익한 영상까지 과도하게 차단할 위험은 남아 있습니다. 틱톡이 향후 필터링된 단어를 사용자가 직접 끄고 켤 수 있게 하겠다고 밝힌 것 역시 이러한 과도한 필터링 문제를 의식한 조치로 보입니다.