ザッカーバーグ氏、米議会AIフォーラムでオープンソースの意義を強調

米上院が主催したAIフォーラムに登壇したMetaのCEO、マーク・ザッカーバーグ氏は、AI開発における2つの重要課題として安全性とアクセスの平等を提示しました。

OpenAIやGoogleがモデルの非公開化を進めるなか、MetaはLlama 2をはじめとするオープンソース戦略を掲げており、その正当性を議会に直接訴えかけた形です。

オープンソースを国家戦略として位置づけ

ザッカーバーグ氏は、議会がイノベーションと安全対策の両立に関与することを支持しつつ、議論が生成AIだけに偏るべきではないと指摘しました。コンピュータビジョンやロボティクスなど、幅広い領域の進展にも目を向ける必要があると述べています。

オープンソース戦略については、決して盲信的な狂信者ではなく、すべてを無条件に公開しているわけではないと説明しました。そのうえで、米国企業が主導権を握ることの重要性を強調しています。

同氏は具体例として、アブダビ発のオープンモデル（Falcon）などに言及し、他国も猛追している実態を挙げました。世界の技術標準が米国外で確立されるのを防ぐためにも、米政府と協力関係を築ける米国企業がオープンモデルの標準を主導すべきだと論じています。

安全性の担保とスーパーインテリジェンス

オープン化に伴うリスクに対しては、訓練データの厳選、社内外の大規模なレッドチーミング、アライメント微調整、クラウド事業者とのフィルター連携といった多重の対策を講じていると説明しました。

さらに、多くの目によって脆弱性が発見・修正されるオープンソースソフトウェアの安全性に関する一般的な原則を挙げ、むしろ透明性が防御を固めると主張しました。

ただし、将来的にシステムがスーパーインテリジェンス（超知能）の水準に近づいた場合には、公開方針を根本的に再検討する余地も残しています。

なぜ重要か

Metaの今回の主張は、オープンソースAIを単なる開発者向けツールではなく、米国の競争力を維持するための安全保障上の武器として再定義した点に巧みさがあります。

先行する競合他社がAIの破滅的リスクを前面に出し、ライセンス制や参入障壁の構築を意識したロビー活動を展開するなか、Metaは外敵との競争という議会に最も響きやすい文脈でオープン性を正当化しました。

開発者やスタートアップにとっては、Metaが政府の規制圧力に屈してオープンモデルの提供を取り下げる事態を当面回避できそうな点は朗報といえます。

しかし、モデルの重みファイルが一度ローカルにダウンロードされてしまえば、Metaが講じたアライメントや安全フィルターを解除することは技術的に容易です。オープンモデルの性能がフロンティア級に近づくにつれ、ザッカーバーグ氏が掲げた安全論理と現実のリスクとの乖離が問題視される可能性は残されています。