Stability AI、英政府主催の「AI安全サミット」に参加へ

英政府が歴史的な暗号解読の地であるブレッチリー・パークで開催する「AI安全サミット」に、英ロンドンに本拠を置くStability AIが参加することを発表しました。

サミットは11月1日と2日の日程で開かれ、各国の政府要人や主要AI企業、研究機関の専門家が集まります。Stability AIからは、創業者兼CEOのエマード・モスタク氏と、公共政策責任者のベン・ブルックス氏が出席します。

オープン技術の立場から政策対話へ

巨大テック企業によるクローズドなモデルが注目を集める中、同社はオープンソースAIの代表格として議論に加わります。

モスタク氏は発表文の中で、英国にはAI大国になる歴史的な好機があるとした上で、その恩恵を大手テック企業だけでなく社会全体に届ける必要があると訴えています。オープンな技術こそが草の根のイノベーションと透明性、健全な競争を生み出すという立場です。

同社は画像生成のStable Diffusionをはじめ、言語、コード、音声、3D、動画といった多岐にわたる生成モデルの開発実績を元に提言を行う方針です。大手企業の研究所だけでなく市井の研究者までを視野に入れ、短期的な実害から長期的な潜在リスクまで幅広くカバーする安全枠組みを求めます。

同社は自社の普及規模として、Stable Diffusionが生成AI画像の約8割を支えていることや、オープンソース言語モデルが600万回以上ダウンロードされたこと、Stable AudioがTIME誌の2023年ベスト発明に選出された実績を挙げています。すでに米ホワイトハウスのAI自主的コミットメントに署名し、英米の議会でも証言を行うなど、政策対話の実績を重ねています。

なぜ重要か

一般の開発者や研究者にとって、このサミットにオープン陣営の代表が同席する意味は非常に大きいと言えます。

大手テック企業主導で安全規制が進むと、巨額のコンプライアンス費用を前提としたライセンス制など、閉鎖的なルールが敷かれる恐れがあります。その結果としてオープンソースのモデル公開が制約されれば、個人開発者や中小企業が独自のモデルを動かすハードルが一気に跳ね上がりかねません。Stability AIが交渉の場にいることは、そうした規制による締め出しを防ぐ防波堤になります。

英国政府にとっても、米国の巨大プラットフォームに頼り切るのではなく、自国のユニコーン企業を前面に出すことで、独自のリーダーシップを演出したい思惑が透けて見えます。

ただし、オープンモデル特有の安全管理の難しさは依然として課題です。一度モデルの重みデータを配布してしまえば、悪用をクラウド側から遮断することは困難です。オープン性と透明性を維持しながら、政府の厳しい安全基準をどう満たしていくのか、同社の説得力が試されることになります。