跳到正文
IFAI

AI工具

Google 翻译迎史上最大扩容:靠 PaLM 2 接入粤语等 110 种新语言

首次发布 传播指数 39

Google 宣布依托 PaLM 2 大模型为 Google 翻译新增 110 种语言,为其史上最大更新。新语言覆盖粤语、曼岛语等,惠及全球超 6.14 亿人。大模型帮翻译工具更高效地学习相近语系,也加速了小众和濒危语言的数字化保护。

Google 翻译迎史上最大扩容:靠 PaLM 2 接入粤语等 110 种新语言
图:blog.google

如果你以前在 Google 翻译里找过粤语,大概率会扑个空。很多人可能很难想象,全球有几千万人天天在讲的语言,在主流翻译工具里居然一直缺席。

Google 在 6 月 27 日宣布,Google 翻译一次性接入 110 种新语言。这是该工具上线以来规模最大的一次语言扩容,覆盖全球超过 6.14 亿人口,大概占到了世界总人口的 8%。

这批新语言能一口气推出来,背后靠的是 Google 自己的 PaLM 2 大语言模型。

呼声最高的粤语,为什么拖了这么久

在这 110 种语言里,大家最熟悉的肯定是粤语。Google 自己也承认,粤语一直是用户呼声最高的语言之一。

迟迟没上不是因为不想做,而是数据太难啃。粤语的书面语和普通话有大量重叠,但在词汇、语法和口语表达上又大相径庭,模型训练时要挑出地道、纯粹的粤语语料非常棘手。

除了粤语这类拥有上亿或数千万使用者的大语种,这次更新里还有大量极小众的濒危语言。

比如英国马恩岛的曼岛语(Manx)。1974 年最后一位母语者去世时,它几乎已经被宣判灭绝,全靠当地几十年的抢救性复兴运动,现在才重新有了几千名使用者。

还有非洲的阿法尔语(Afar),它是这次更新里志愿者社区贡献语料最多的语言。另外西非统一多种方言的 NKo 语、巴基斯坦最多人使用的旁遮普语(沙木基字母),以及支持拉丁字母和提非纳文字两种拼写方式的北非阿马齐格语,都在这次的名单里。

大模型找亲戚,小语种搭便车

约四分之一的新增语言来自非洲,这也是 Google 翻译历来对非洲语言扩展规模最大的一次。

很多小语种压根没有现成的双语对照数据,Google 是怎么把它们塞进翻译器的?

关键在于 PaLM 2 这种大模型擅长「找亲戚」。如果一种小语言缺少数据,模型可以借助它同语族的亲属语言来学习。比如借助印地语去理解阿瓦迪语和马尔瓦里语,或者借助法语去攻克塞舌尔克里奥尔语和毛里求斯克里奥尔语。

面对一种语言内部的多种方言和拼写习惯,Google 的做法是抓大放小。以欧洲分布广泛的罗姆语为例,模型优先输出网络上最常用的南弗拉克斯罗姆语,同时也融合了北弗拉克斯和巴尔干罗姆语的元素。

为什么重要

对普通用户来说,最直接的好处是那些跨地域沟通的盲区被填上了。无论是去港澳和两广做生意、听懂老一辈粤语长辈的日常交流,还是在非洲、中东做跨境贸易和公益援助,很多以前完全靠猜的语言现在能在手机上直接查。

我们认为,Google 这次最聪明的点,是展示了大模型在小语种任务上的真正价值。过去用传统统计机器翻译或者小模型做翻译,没有海量人工平行语料根本转不动,而濒危语言最缺的就是语料;大模型靠通用的语言理解能力和近亲语言迁移,把建翻译库的门槛彻底砸低了。

这也算是兑现了 Google 2022 年承诺的「千种语言倡议」。在商业上,小语种可能带不来直接的广告收益,但它能帮你圈住下一个十亿互联网人口,还能在文化遗产保护上挣足声誉。

不过隐患也不是没有。方言变种被模型强行拉平成一种「最常用标准」,很容易引起小族群内部对拼写和词汇正统性的争议。而且靠亲属语言推理出来的生僻表达,准头到底怎么样,还是得打个问号,目前最稳妥的做法依然是当作日常参考,别直接拿去签合同。

来源 (1)

  1. [1]
    blog.google(在新标签页打开)原文blog.google

每日 AI 内容精选