本文へスキップ
IFAI

AIツール

Opera、開発版ブラウザでローカルLLMに対応 LlamaやGemmaなど150種を端末上で実行可能に

公開 拡散指数 38

Operaは開発版ブラウザ「Opera One Developer」において約150種類のローカルLLMへの試験対応を開始したと発表した。LlamaやGemma、Mixtralなどを端末に直接ダウンロード(1モデルあたり2〜10GB)し、外部サーバにデータを送信せずプライベートにAIを利用できる。

Opera、開発版ブラウザでローカルLLMに対応 LlamaやGemmaなど150種を端末上で実行可能に
画像:press.opera.com

自分のパソコンでオープンソースのLLMを動かそうとすると、これまではターミナルを開いて環境構築を行ったり、専用の実行ツールを導入したりと、ある程度の技術的なハードルがありました。

そんな状況を変えようとしているのがOperaです。ノルウェーのOperaは、Webブラウザ「Opera One」の開発者向けビルドにおいて、ローカル大規模言語モデル(LLM)への実験的な対応を開始したと発表しました。主要なWebブラウザが標準機能としてローカルLLMの管理と実行に対応するのは、これが初めてとなります。

150種類以上のモデルをブラウザに直接ダウンロード

今回の機能は、新機能の早期テストプログラムである「AI Feature Drops Program」の一環として提供されます。対応するモデルは、約50ファミリーから150種類以上のバリアントに及びます。

ラインナップには、MetaのLlama、GoogleのGemma、Mistral AIのMixtral、そしてVicunaなどが含まれています。

使い方はシンプルです。最新版のOpera Developerにアップデートして機能を有効化すると、利用したいモデルを一覧から選択できます。選択したモデルはマシン内に直接ダウンロードされます。

モデルのファイルサイズはバリアントごとに通常2〜10GB程度を消費します。ダウンロードが完了すると、Operaが標準で搭載しているクラウド型AI「Aria」の代わりに、選択したローカルLLMが入力を処理するようになります。新しいチャットを開始するかAriaに戻す操作をするまで、入力データは外部サーバーに送信されず、完全に端末内だけで完結します。

なぜ重要か

GoogleやMicrosoftが自社のクラウド型AIサービスをブラウザに統合しようと急ぐなか、Operaはオープンソースの資産を活用したまったく別のアプローチを採りました。

ユーザーにとっての最大のメリットは、プライバシーの保護と導入の容易さです。機密データを扱う作業やオフライン環境でも、コマンドラインを触ることなく手軽にモデルを切り替えてテストできます。複数のオープンソースモデルの挙動を手軽に比較したい開発者にとっても便利です。

ブラウザそのものをローカルAIのランタイム兼GUIにしてしまうというアプローチは、自前のモデル開発で巨大テックに対抗しない同社にとって非常に賢明な立ち回りだと評価できます。

ただし、課題も明白です。モデルごとに数GB単位のディスク容量を消費するうえ、十分なGPUを持たない一般的なPCでは推論速度が著しく低下する可能性があります。環境構築の手間はブラウザが解消してくれますが、マシンスペックという物理的な壁をどう乗り越えるかが、今後の実用性を左右しそうです。

情報源 (1)

  1. [1]
    press.opera.com(新しいタブで開きます)原文press.opera.com

毎日のAIピックアップ