Google 翻譯迎史上最大擴容:靠 PaLM 2 接入粵語等 110 種新語言
Google 宣佈依託 PaLM 2 大模型為 Google 翻譯新增 110 種語言,為其史上最大更新。新語言覆蓋粵語、曼島語等,惠及全球超 6.14 億人。大模型幫翻譯工具更高效地學習相近語系,也加速了小眾和瀕危語言的數字化保護。

如果你以前在 Google 翻譯裡找過粵語,大機率會撲個空。很多人可能很難想像,全球有幾千萬人天天在講的語言,在主流翻譯工具里居然一直缺席。
Google 在 6 月 27 日宣佈,Google 翻譯一次性接入 110 種新語言。這是該工具上線以來規模最大的一次語言擴容,覆蓋全球超過 6.14 億人口,大概佔到了世界總人口的 8%。
這批新語言能一口氣推出來,背後靠的是 Google 自己的 PaLM 2 大語言模型。
呼聲最高的粵語,為什麼拖了這麼久
在這 110 種語言裡,大家最熟悉的肯定是粵語。Google 自己也承認,粵語一直是使用者呼聲最高的語言之一。
遲遲沒上不是因為不想做,而是資料太難啃。粵語的書面語和普通話有大量重疊,但在詞彙、語法和口語表達上又大相逕庭,模型訓練時要挑出地道、純粹的粵語語料非常棘手。
除了粵語這類擁有上億或數千萬使用者的大語種,這次更新裡還有大量極小眾的瀕危語言。
比如英國馬恩島的曼島語(Manx)。1974 年最後一位母語者去世時,它幾乎已經被宣判滅絕,全靠當地幾十年的搶救性復興運動,現在才重新有了幾千名使用者。
還有非洲的阿法爾語(Afar),它是這次更新裡志願者社群貢獻語料最多的語言。另外西非統一多種方言的 NKo 語、巴基斯坦最多人使用的旁遮普語(沙木基字母),以及支援拉丁字母和提非納文字兩種拼寫方式的北非阿馬齊格語,都在這次的名單裡。
大模型找親戚,小語種搭便車
約四分之一的新增語言來自非洲,這也是 Google 翻譯歷來對非洲語言擴充套件規模最大的一次。
很多小語種壓根沒有現成的雙語對照資料,Google 是怎麼把它們塞進翻譯器的?
關鍵在於 PaLM 2 這種大模型擅長「找親戚」。如果一種小語言缺少資料,模型可以藉助它同語族的親屬語言來學習。比如藉助印地語去理解阿瓦迪語和馬爾瓦里語,或者藉助法語去攻克塞席爾克里奧爾語和模里西斯克里奧爾語。
面對一種語言內部的多種方言和拼寫習慣,Google 的做法是抓大放小。以歐洲分佈廣泛的羅姆語為例,模型優先輸出網路上最常用的南弗拉克斯羅姆語,同時也融合了北弗拉克斯和巴爾幹羅姆語的元素。
為什麼重要
對普通使用者來說,最直接的好處是那些跨地域溝通的盲區被填上了。無論是去港澳和兩廣做生意、聽懂老一輩粵語長輩的日常交流,還是在非洲、中東做跨境貿易和公益援助,很多以前完全靠猜的語言現在能在手機上直接查。
我們認為,Google 這次最聰明的點,是展示了大模型在小語種任務上的真正價值。過去用傳統統計機器翻譯或者小模型做翻譯,沒有海量人工平行語料根本轉不動,而瀕危語言最缺的就是語料;大模型靠通用的語言理解能力和近親語言遷移,把建翻譯庫的門檻徹底砸低了。
這也算是兌現了 Google 2022 年承諾的「千種語言倡議」。在商業上,小語種可能帶不來直接的廣告收益,但它能幫你圈住下一個十億網際網路人口,還能在文化遺產保護上掙足聲譽。
不過隱患也不是沒有。方言變種被模型強行拉平成一種「最常用標準」,很容易引起小族群內部對拼寫和詞彙正統性的爭議。而且靠親屬語言推理出來的生僻表達,準頭到底怎麼樣,還是得打個問號,目前最穩妥的做法依然是當作日常參考,別直接拿去籤合同。
來源 (1)
- blog.google(在新分頁開啟)原文blog.google