Hugging FaceとServiceNow、無償のコード生成AI「StarCoder」を公開

StarCoderは、150億のパラメータを備えたオープンソースのコード生成AIモデルです。端的に言えば、GitHub Copilotに匹敵する性能を持ちながら、商用利用を含めて無償で使える待望のオープンな代替品です。

何ができるのか

StarCoderは80以上のプログラミング言語に対応しています。Visual Studio Codeに直接統合でき、コードの自動補完だけでなく、「アプリのUIを作成して」といった自然言語の指示に従ったり、コードについての質問に答えたりすることが可能です。

開発を主導した担当者によると、その精度は初期のGitHub Copilotを駆動していたOpenAIのモデルと同等かそれ以上とされています。商用サービスほどの機能が最初からすべて揃っているわけではありませんが、自社データで自由に追加学習させられる点が大きな強みです。

どう作られたのか

このモデルは、Hugging FaceとServiceNowの研究部門が主導するBigCodeプロジェクトによって開発されました。Hugging Faceが用意した512基のNvidia V100 GPUクラスタを使い、数日間かけて学習が行われています。

学習には、寛容なライセンスを持つ1900万以上のリポジトリと6TB以上のコードを含むデータセット「The Stack」が使用されました。Web上のコードを無差別に学習させた商用モデルとは異なり、事前のデータフィルタリングが徹底されています。

氏名、メールアドレス、IPアドレス、パスワードや秘密鍵といった個人識別情報を入念に除去したほか、マルウェア検出ツールを用いて既知の脆弱性を含むコードも排除しました。さらに、開発者が自身のコードを学習対象から除外できるオプトアウトの仕組みも用意されています。

入手方法と制限事項

StarCoderのリポジトリ、学習フレームワーク、データフィルタリング手法、評価スイートはすべてGitHub上で一般公開されています。

ライセンスには「OpenRAIL-M」を採用しており、企業を含め誰でもロイヤリティフリーで商用利用できます。ただし、マルウェアの作成や配布といった悪意ある用途への利用を禁じる法的な利用規約への同意が求められます。また、学習時のフィルタリングをすり抜けた誤ったコードや脆弱性を出力する可能性もあるため、レビューなしの本番導入は避けるべきです。

なぜ重要か

月額料金の支払いが難しい個人開発者や、ソースコードを外部サーバーに送信することを社内規程で禁じられている企業にとって、StarCoderは今すぐ試す価値のある選択肢です。自前のプライベート環境にデプロイし、社内資産のコードで安全にファインチューニングできます。

業界全体にとっても、プロプライエタリな巨大テック企業が独占しつつあったコード生成AIの分野に、透明で安全性の高いオープンな土台がもたらされた意義は小さくありません。このモデルをベースにした多様な派生ツールが今後急速に広がると見られます。