Google、生成AI特化の脆弱性報奨金制度を開始

生成AIモデルを意図的に誤動作させたり、幻覚を引き起こしたりする手口を見つければ、Googleから報奨金がもらえる時代になりました。

Googleは長年運用してきた脆弱性報奨金プログラム（VRP）を拡大し、生成AIに特化した攻撃シナリオを正式に対象に加えたことを発表しました。同時に、オープンソースAIモデルの改ざんを防ぐためのサプライチェーンセキュリティ対策も公表しています。

AIのバグハンティングに明確な指針

従来のサイバーセキュリティと異なり、生成AIでは偏見の出力、モデルの不正操作、データの誤解釈（ハルシネーション）といった特有のリスクが発生します。

Googleはセキュリティ研究者が調査しやすいよう、報告対象となるAIバグのスコープを明確にした新たなガイドラインを公開しました。

Googleは8月にもホワイトハウスや業界他社と組み、DEF CONで過去最大規模の生成AI公開レッドチーム演習を実施していました。自社のトラスト＆セーフティチームだけでなく、数千人規模の外部セキュリティコミュニティの知見を継続的に取り込む体制へ移行した形です。

モデルの改ざんを防ぐ「電子署名」

もうひとつの柱が、機械学習サプライチェーンの保護です。AIモデルの重みデータに悪意ある改ざんが加えられたり、データポイズニングが行われたりするリスクが指摘されています。

Googleのオープンソースセキュリティチームは、業界標準のサプライチェーン管理仕様であるSLSAと、署名管理ツールSigstoreを活用したプロトタイプを発表しました。

これにより、開発者はダウンロードしたオープンソースモデルが本物であるか、サプライチェーンの途中で改ざんされていないかを検証できるようになります。

なぜ重要か

セキュリティ研究者やホワイトハッカーにとって、プロンプトインジェクションやモデル回避の研究は、単なる実験から正規の報酬を得られる専門分野へと位置づけが変わりました。

業界全体にとっても、AIサプライチェーンの透明化は急務でした。これまでオープンソースモデルの配布はコミュニティの信用に依存している側面が強く、安全性の検証は手薄でした。既存の成熟したオープンソース署名技術をAIの世界に持ち込んだアプローチは、非常に現実的で賢明だと考えられます。

ただし、従来のクラッシュと違い、何をもって「脆弱性」とするかの線引きは極めて曖昧です。モデルの出力揺らぎや軽微な幻覚をどこまでバグとして認定するか、運用上の課題は残ります。それでも、AIを実験室の玩具から社会基盤へと引き上げるために避けては通れない一歩です。