Google 釋出 PaLM 2：不再卷引數量，驅動新版 Bard 並能跑在手機上

過去大半年，大家看大模型都在比誰的引數多，彷彿數字越大就越厲害。但 Google 這次拿出 PaLM 2 時，態度明顯變了。

在 Google I/O 開發者大會上，Google 正式釋出了新一代大語言模型 PaLM 2。它不僅會接管升級後的聊天機器人 Bard，還會成為 Google 接下來一系列 AI 新功能的底層底座。開發者現在已經能通過 PaLM API、Firebase 以及 Colab 用上它。

擺脫引數崇拜，搞出全家桶

有意思的是，Google 這次學聰明了，和 OpenAI 一樣對具體引數量三緘其口。要知道上一代 PaLM 可是直接把 5400 億引數頂在頭上的。

DeepMind 副總裁 Zoubin Ghahramani 解釋得很直白：模型並不是越大越好，死磕引數量已經沒什麼意義了，好不好用得看實際跑任務的表現。所以 Google 這次直接把 PaLM 2 做成了一個不同尺寸的模型家族。

硬體底座上，Google 透露 PaLM 2 是基於自家最新的 JAX 框架和 TPU v4 叢集訓練出來的，算力利用效率比之前更高。

能算數學題，還能塞進手機裡

在具體能力上，Google 重點補齊了大模型的幾個傳統短板。

以前的大模型聊起天來頭頭是道，一碰到算術題就原形畢露，往往得外掛外掛才能算對。PaLM 2 在訓練中塞進了大量數學和科學文獻，官方表示它不僅能解數學謎題、一步步推導，甚至還能輸出圖表。

在程式碼方面，它學了 20 種程式語言，除了常見的 JavaScript 和 Python，連古老的 Fortran、Prolog 和硬體設計用的 Verilog 也包含在內。Google 還順勢推出了基於它微調的程式碼專用模型 Codey，用來做程式碼補全和生成。

更讓人在意的是模型的輕量化嘗試。除了面向醫療的 Med-PaLM 2 和網路安全的 Sec-PaLM，Google 還做了一個可以在智慧手機上本地跑的 PaLM 2 小模型。

這個手機端小模型每秒能生成大約 20 個 token。雖然速度談不上飛快，但 Google 沒透露是用什麼手機測的，也沒給出具體的上線時間表。不過對於注重隱私的離線場景來說，這已經是個很能打的成績了。

為什麼重要

我們認為，Google 這次釋出 PaLM 2，最核心的變化是終於放下了「唯大模型論」的執念，開始轉向實用主義。

對開發者和企業來說，大模型動輒幾千億引數，跑一次成本極高，根本沒法普惠。Google 把模型拆成不同規格，還針對程式碼、醫療、安全做垂直切分，甚至探索手機端本地執行，說明商業落地的思路非常明確。如果你正在做特定行業的垂直應用，比如醫療諮詢或程式碼助手，這種分層模型的適配成本會比死磕一個通用巨無霸要低得多。

對行業競爭而言，這是 Google 對 OpenAI 展開的最全面反擊。此前 Bard 體驗飽受詬病，換上 PaLM 2 後算是有了一戰之力。更關鍵的是，Google 把自身強大的底層算力 TPU 和應用生態綁在一起，試圖在硬體成本上跟輝達陣營拉開差距。

不過，隱患也同樣明顯。Google 在釋出前沒有提供公開評測環境，實際生成中的幻覺問題、邊界案例處理到底怎麼樣，現在完全要打個問號。端側模型 20 token 每秒的表現雖然可用，但何時能真正下放到普通使用者的移動裝置上，看起來 Google 還有很長的一段工程最佳化路要走。