跳到正文
IFAI

AI工具

TikTok 升級安全功能:用 AI 過濾惡評,上線眾包核查工具

首次發布 傳播指數 33

TikTok 推出一系列安全新功能,包括升級家長控制與上線類似 X 社群筆記的 Footnotes 眾包核查。針對創作者,平臺引入 Creator Care Mode,藉助 AI 學習其反感的評論型別並自動過濾。

TikTok 升級安全功能:用 AI 過濾惡評,上線眾包核查工具
圖:cnet.com

在美國隨時可能被關停的陰影下,TikTok 沒停下更新產品的腳步,這次它把焦點放在了最容易捱罵的兩件事上:未成年人保護和虛假資訊。

TikTok 宣佈上線一套涵蓋家長控制、AI 評論稽核和眾包事實核查的新功能。不管是在華盛頓議員眼裡,還是在焦慮的父母心裡,這家擁有 1.59 億美國使用者的應用都在極力證明自己是個「聽話且安全」的好平臺。

給家長裝雷達,給創作者裝 AI 護盾

這次更新裡最直接的變化來自家長控制工具 Family Pairing。

以前家長只能給孩子設定使用時長,現在只要綁了賬號,孩子一旦釋出影片、快照或照片,家長就會收到即時提醒。甚至,孩子在系統裡主動勾選了哪些感興趣的推薦主題,家長在後臺也能看得一清二楚。

為了讓青少年別沉迷刷影片,TikTok 還聯合波士頓兒童醫院數字健康實驗室,搗鼓出了一個叫「健康任務」的機制。說白了就是把正念練習遊戲化,青少年在應用內完成健康體驗就能拿到徽章。

至於常年飽受惡評困擾的創作者,TikTok 給他們配了一個 AI 保鏢,叫創作者關懷模式。

這個 AI 能主動學習創作者平時討厭哪些型別的評論,隨後自動把同類惡評過濾掉。在開直播時,主播也可以直接批次遮蔽特定的表情符號或辱罵短語。

另外,針對大體量創作者,TikTok 還上線了創作者收件箱群聊功能。和 Instagram 那種單向廣播頻道不同,這個群聊允許粉絲之間互相交流。

類似 Community Notes 的 Footnotes,但沒裁專業稽核

面對滿天飛的虛假資訊,TikTok 這次也照著 X 和 Meta 的作業抄了一個新功能,名字叫 Footnotes。

目前這個功能在美國小範圍試點,已經報名的社群貢獻者可以對存疑影片進行核查,附上可靠信源連結。這套邏輯和 X 的 Community Notes 幾乎如出一轍。

不過有個關鍵細節值得注意:今年 Meta 已經徹底砍掉了自己的事實核查團隊,但 TikTok 強調 Footnotes 只是補充手段,絕不是替代方案。

目前 TikTok 依舊保留著遍佈全球 130 個市場、覆蓋 60 種語言的 20 家 IFCN 認證專業事實核查合作伙伴。

為什麼重要

對創作者來說,Creator Care Mode 是個相當實在的工具。以前過濾惡評只能靠手動拉黑敏感詞,既費力又防不住陰陽怪氣的諧音梗,交給 AI 自學習顯然能省下不少心力。

而對家長而言,TikTok 把監控許可權從管時間延伸到了管內容和管偏好,但這很可能會在青春期孩子和家長之間引發新的拉扯。

行業層面上,TikTok 在事實核查上的表態很有意思。Meta 為了降本和避嫌直接把核查全推給社群,TikTok 卻堅持保留專業團隊加社群雙軌制,我們認為這很大程度上是出於生存求生欲。

眼下正值特朗普給出的第三個 90 天出售延期,距離 9 月 17 日的截止日期已經所剩無幾。TikTok 必須向監管機構和公眾證明,自己不僅不是漏洞,還在平臺治理上比美國本土巨頭更加賣力和剋制。

來源 (1)

  1. [1]
    cnet.com(在新分頁開啟)原文cnet.com

每日 AI 內容精選