跳到正文
IFAI

大模型

Google 開放 Bard 給青少年:能分步講數學題,自動核驗防幻覺

首次發布 傳播指數 44

Google 宣佈向全球大部分國家達到賬號自主管理年齡的青少年開放 Bard。新版支援輸入或拍照解數學題並給出詳細分步說明,還能把資料轉成圖表。為了防範不良內容與幻覺,系統內建了安全過濾,並在青少年首次提問事實問題時自動觸發核驗功能。

Google 開放 Bard 給青少年:能分步講數學題,自動核驗防幻覺
圖:blog.google

很多家長還在糾結要不要讓孩子碰 AI,Google 已經決定把大門推開了。

Google 宣佈,從明天開始,全球大部分國家的青少年可以使用對話 AI 助手 Bard。前提是他們達到當地自主管理 Google 賬號的法定最低年齡,首期支援英文,後續會逐步增加更多語言。

這次更新不僅是放開許可權,Google 還順手給 Bard 塞了兩項專門針對學習的新本事,並且給未成年人套上了一整套定製的安全護欄。

拍道數學題,它教你怎麼解

對於青少年來說,最直接的用途還是應付學業和日常雜務。

Google 在 Bard 裡上線了全新的數學學習體驗。青少年可以直接輸入數學方程,或者直接拍一張方程式的照片上傳。Bard 不會只冷冰冰地給出一個最終答案,而是會拆出一步一步的解題過程,教你怎麼推導。

除了做數學題,Bard 還新增了資料視覺化能力。如果提示詞裡有一段資料或者表格,比如記錄了幾個月以來的志願服務時長,Bard 就能直接生成柱狀圖等圖表。這兩項功能同樣從明天開始上線,初期先面向英文使用者。

平時他們還能拿 Bard 練練班長競選演講的文稿、挑選大學、找找科技博覽會的靈感,或者問問怎麼學打匹克球。

自動幫年輕人查證事實

為了讓家長和學校放心,Google 在安全限制上下了不少功夫。他們拉來了兒童安全與發展專家,以及家庭線上安全研究所等機構一起制定內容策略。

首先是攔截不安全內容。系統專門做過訓練,能夠識別不適合年輕人的話題,防止非法物質或有年齡限制的內容出現在回答裡。

其次是防範大模型的幻覺。Google 注意到包括青少年在內的很多使用者並不瞭解大模型會胡說八道。因此,當青少年第一次在 Bard 裡提出事實性問題時,系統會自動觸發「雙重核對」功能,直接在網上交叉比對內容來驗證回答的真實性。

此外,年輕使用者在首次進入時會看到定製的新手引導,裡面包括一份 AI 素養指南和教學影片,教他們如何負責任地使用生成式 AI。系統還會講清楚搜尋和使用記錄會被如何處理,並允許他們自主選擇開啟或關閉 Bard 活動記錄。

為什麼重要

把生成式 AI 放進中學生的書包裡,這件事的深遠影響才剛剛開始。

對學生和普通家庭來說,值不值得現在就用?答案顯而易見。把大模型當成一個隨時待命的私人助教,哪怕只是用來拆解一道做不出的代數題,或者整理一下課外活動的資料,門檻都極低。只要能用好它,學習效率確實能拉開差距。

我們認為,Google 這次最聰明的做法,是把「雙重核對」做成了青少年的預設動作,而不是單純把功能做個許可權攔截。直接教孩子識別 AI 幻覺、學會交叉核對信源,比一味掩耳盜鈴地封鎖要現實得多。

但隱患同樣擺在眼前。即使有解題步驟,有多少孩子能剋制住直接抄答案去交作業的衝動,仍然完全取決於自律。而且即便有內容過濾,生成式模型在多輪對話裡的邊界試探依然防不勝防。

在行業層面,這也意味著大型科技公司正在把 AI 習慣的培養推向更年輕的代際。誰能在安全合規的前提下先搶佔這批中學生的心智,誰就能在未來的使用者生態裡鎖住最長久的忠誠度。

來源 (1)

  1. [1]
    blog.google(在新分頁開啟)原文blog.google

每日 AI 內容精選