本文へスキップ
IFAI

オープンソース

Unsloth Studio:コード不要で500種超のモデルを微調整、VRAMを70%削減

公開 拡散指数 48

Unslothはローカルで動作するノーコード学習ツール「Unsloth Studio」のベータ版を公開した。PDFなどの文書からデータセットを自動生成し、VRAM消費を70%抑えながら2倍速で訓練できる。500種以上のモデルに対応しGitHubで提供中。

Unsloth Studio:コード不要で500種超のモデルを微調整、VRAMを70%削減
画像:unslothai.substack.com

Unsloth Studioは、ローカル環境で動作するオープンソースのノーコードWeb UIです。データセットの作成からモデルの微調整、推論、形式変換まで、一連のオープンモデル運用をPythonコードを1行も書かずに完結できます。

モデル調整で最もハードルが高いのがデータ準備ですが、本作は「Unsloth Data Recipes」という機能を搭載しています。手持ちのPDFやCSV、DOCX、テキスト文書を読み込ませるだけで、構造化された合成データセットを自動作成できます。ノードを繋ぐビジュアルワークフローでデータを編集・確認し、そのまま学習プロセスへ渡せます。

できること

対応モデルは500種類以上に及び、通常のテキスト生成モデルだけでなく、ビジョン、音声合成(TTS)、埋め込み(Embedding)モデルまで網羅しています。学習方式もフルファインチューニング、継続事前学習、4-bit、16-bit、FP8での学習をサポートします。

Unslothならではの最適化もそのまま活かされており、精度を損なうことなく学習速度を2倍に高め、VRAM消費量を最大70%削減します。学習中は損失値(Loss)の推移やGPU使用率をリアルタイムにグラフ監視できます。

学習後の推論テストも同一画面で行えます。GGUFやsafetensor形式をその場で読み込め、推論パラメータの自動調整やチャットテンプレートの変更が可能です。サンドボックス内でのコード実行やWeb検索にも対応しており、モデル自身に計算を実行させて回答精度を検証させることもできます。

導入方法と注意点

現在GitHub上でパブリックベータ版が公開されており、Mac、Windows、Linuxで動作します。

ただし環境ごとに機能差があります。フル機能のローカル学習は現在WindowsとLinux(NVIDIA環境)が中心です。Mac環境ではCPUやMetalを用いたGGUF形式のチャット推論には対応していますが、Apple Silicon向けのMLX学習機能は近日公開予定とされています。複数GPUを使ったマルチGPU学習も今後のアップデート待ちです。

学習を終えたモデルは、Ollamaなどで扱いやすいGGUF形式や、サーバー配備用の16-bit safetensor形式へワンクリックで書き出せます。

なぜ重要か

環境構築やスクリプト記述が必要だったローカルLLMのファインチューニングを、完全に一般向けツールへと落とし込んだ点が優れています。専門知識がなくても、自前の講義資料PDFを読ませて特定教科のAI講師を作ったり、過去の執筆記事から自分好みのライティング支援モデルを育てたりできます。

VRAM消費を70%抑えられるため、これまでクラウドアカウントを借りなければ不可能だった微調整が、手元の一般的なグラフィックボードで現実的になります。Macでの学習対応など未完成な部分はあるものの、今すぐ触ってみる価値が十分にある強力なツールです。

情報源 (1)

  1. [1]

毎日のAIピックアップ