跳到正文
IFAI

AI工具

Opera One 開發者版內建本地大模型:支援 Llama、Gemma 等 150 款

首次發布 傳播指數 38

Opera 宣佈在 Opera One 開發者版本中測試內建本地大模型支援,覆蓋 Llama、Gemma、Mixtral 等約 50 個家族共 150 種模型變體。使用者可將模型下載至本地直接執行,單模型需 2 至 10 GB 儲存空間,資料無需上傳伺服器。目前僅向開發者通道開放測試。

Opera One 開發者版內建本地大模型:支援 Llama、Gemma 等 150 款
圖:press.opera.com

想在自己的電腦上跑一個開源大模型,以前的門檻可不算低。你大機率得開啟終端,折騰 Python 環境、裝 Ollama,或者去 GitHub 上淘各種前端介面。

現在,瀏覽器廠商打算把這套流程打包端到你面前。4 月 3 日,Opera 宣佈在 Opera One 瀏覽器的開發者版本中,加入對本地大語言模型的實驗性支援。官方表示,這是首個通過內建功能直接訪問和管理本地大模型的主流瀏覽器。

150 個模型直接裝進瀏覽器

這次 Opera 並不是淺嘗輒止地支援一兩款模型,而是通過其全新的「AI Feature Drops Program」一次性引入了大約 50 個模型家族、共計 150 個本地大語言模型變體。

在這份支援名單裡,既有 Meta 的 Llama、Google 的 Gemma,也有來自 Mistral AI 的 Mixtral,以及開源社群很常見的 Vicuna 等等。

使用方式並不複雜。開發者版本的使用者升級到最新版後,按照指引啟用該功能,就能直接在瀏覽器裡挑選想用的模型。

選定之後,瀏覽器會把模型檔案下載到本地裝置上。根據不同模型的引數規模,每個變體通常需要佔用 2 到 10 GB 的本地儲存空間。

一旦下載完成,選中的本地模型就會接管瀏覽器的互動介面,暫時替代 Opera 原本的線上雲端 AI「Aria」。所有輸入和計算都純粹在本機執行,沒有任何資料會被髮往雲端伺服器,直到你主動開啟新的會話或者切回 Aria。

為什麼重要

在 Chrome 和 Edge 還在想方設法把自家的雲端大模型塞進側邊欄時,Opera 走了一條完全不同的路。

對使用者來說,最大的價值在於隱私和極低的折騰門檻。如果你手裡有敏感的文件想做總結,或者在沒有網路連線的飛機上想查點資料,點幾下滑鼠就能在瀏覽器裡跑本地模型。甚至對於想對比不同開源模型表現的開發者來說,這也是一個現成的輕量測試臺。

從行業角度看,我們覺得 Opera 這一步走得相當聰明。作為市場份額有限的挑戰者,它沒有去硬拼自研大模型的引數規模,而是利用開源生態的繁榮,把自己做成了一個本地模型的友好前端容器。

不過,這種做法的隱患也很明顯。本地大模型的體驗極度依賴硬體,動輒數 GB 的下載體積對儲存空間有硬性要求。更重要的是,在沒有像樣 GPU 的輕薄本上,這些模型的推理速度很可能會慢得讓人抓狂。如果普通使用者興沖沖下載下來卻發現卡頓嚴重,這種實驗性功能很可能會淪為少數硬體發燒友的玩具。

來源 (1)

  1. [1]
    press.opera.com(在新分頁開啟)原文press.opera.com

每日 AI 內容精選