跳到正文
IFAI

AI工具

Snapchat 接入 OpenAI 聊天機器人:置頂在好友列表,還提前道了歉

首次發布 傳播指數 38

Snap 宣佈推出基於 OpenAI 技術的聊天機器人「My AI」,本週率先面向每月 3.99 美元的 Snapchat+ 訂閱使用者開放。它會被置頂在好友聊天列表上方,定位為日常聊天的虛擬朋友。官方直言它容易產生幻覺,並提前為說錯話道歉。

Snapchat 接入 OpenAI 聊天機器人:置頂在好友列表,還提前道了歉
圖:engadget.com

想像一下,你開啟微信或通訊錄,排在最頂上的不是置頂的死黨,也不是工作群,而是一個隨時秒回你的 AI 機器人。

Snapchat 正在把這變成現實。Snap 宣佈在應用內加入一款基於 OpenAI 技術的聊天機器人,名字叫「My AI」。這個新功能本週先對每月 3.99 美元的 Snapchat+ 付費訂閱使用者開放,不過據報道,公司最終的計劃是推給所有使用者。

不當生產力工具,只想做你的虛擬好友

和市面上大部分把聊天機器人包裝成「全能寫作助手」或「效率神器」的做法不同,My AI 在應用裡的形態就像一個普通的 Snapchat 好友頭像。

上線後,它會被直接置頂在聊天列表的最上方,位置甚至排在你現實中的好友對話之上。

Snap 執行長 Evan Spiegel 在接受 The Verge 採訪時說得很直白,他們的核心想法是,大家以後除了每天和朋友、家人聊天,也會每天和 AI 聊天。在他看來,Snapchat 作為即時通訊軟體,做這件事的位置剛剛好。

技術底層上,Snap 表示該機器人執行的是 OpenAI 為他們專門定製的最新 GPT 技術。據報道,這裡用到的很可能是 OpenAI 最近被曝光的 Foundry 專案。這是一個僅限受邀深度開發者參與的計劃,允許使用 ChatGPT 背後的 GPT-3.5 模型,而當時 OpenAI 對外公開的通用 API 實際上還停留在更老、更笨一點的 GPT-3。

上線先道歉,就怕被使用者帶偏

前面已經有一堆 AI 翻車的慘痛教訓,比如科技媒體 CNET 發的 AI 財經文章漏洞百出,還有各種實驗性聊天機器人被網友調戲到精神失常。Snap 顯然對此心知肚明。

為了不步後塵,官方給 My AI 加上了嚴格的平臺信任與安全限制,明確避開粗口、暴力、露骨色情內容以及政治觀點。如果使用者發現它亂說話,可以長按氣泡提交反饋,官方會根據舉報持續微調。

但即便做了防線,Snap 自己也沒十足的把握。他們甚至在公告裡直接對使用者提前道歉,打起了預防針。

官方坦率地承認,就像所有 AI 聊天機器人一樣,My AI 很容易出現幻覺,也可能會被誘導說出各種荒唐話。公司在公告裡寫道,請大家留心它的各種毛病,並且提前說聲抱歉。

為什麼重要

這可以說是大模型第一次被如此直接地塞進年輕人的日常社交關係鏈裡。過去使用者用 ChatGPT,大多是把它當搜尋引擎、程式碼助手或者改寫工具,是一個需要帶著明確任務去呼叫的生產力工具;而 Snapchat 把它包裝成一個永遠線上、甚至強行置頂的虛擬好友,這意味著即時通訊軟體開始探索 AI 在情感陪伴和閒聊場景裡的商業可能。

我們認為,Snap 這次把 My AI 作為每月 3.99 美元的付費專享功能先推,是個非常聰明的回本測試。跑大模型的 API 成本極高,直接向全員開放可能會瞬間壓垮伺服器並吃掉大筆現金,先讓付費會員買單,既能測試模型負載,又能順便刺激訂閱增長。

但這裡的隱患也極其明顯。Snapchat 的核心使用者群體非常年輕,未成年人比例不低,把一個強行置頂、官方自己都承認容易產生幻覺且能被套話的 AI 放在他們面前,稍微出現一點不良誘導或虛假資訊,對平臺的公關和法律風險都可能是毀滅性的。提前道歉固然誠懇,但在真正的安全審查面前,光靠一句不好意思恐怕很難過關。

來源 (1)

  1. [1]
    engadget.com(在新分頁開啟)原文engadget.com

話題追蹤Snapchat My AI 的推出與普及

這個話題的歷次新聞,最新的在上面。

  1. Snapchat 升級 My AI:發照片過去,它用 AI 圖片回你
  2. Snapchat 全面開放 My AI:拉進群聊就能幫你挑濾鏡、找餐館
  3. Snapchat 接入 OpenAI 聊天機器人:置頂在好友列表,還提前道了歉本則

每日 AI 內容精選