マイクロソフト、英AIサミットを前に安全対策の進捗を報告

英国で初となるAI安全性サミットの開幕を控え、IT大手各社は規制当局に向けた実績作りに追われています。

マイクロソフトは10月27日、英国政府が掲げる9つの重点分野に対応する形で、自社のAI安全性に関する方針と取り組みの進捗状況を公表しました。

同社が7月にホワイトハウスで合意した自主的なコミットメントを着実に実行に移している姿勢を、国際社会に向けてアピールする狙いがあります。

独立レッドチームの拡充とC2PAによる画像署名

マイクロソフトは単なる指針の策定にとどまらず、実際の製品に適用される具体的な対策を強調しています。

同社は製品開発チームから完全に独立した専門組織であるAI Red Teamの人員を増強しました。9月にOpenAIが発表したDALL-E 3の検証結果を踏まえ、Bing Image Creatorに対する独自の脆弱性診断を実施しています。

さらに、Bing Image Creatorで生成されたすべての画像に、AI製であることを示すメタデータを自動付与する仕組みを導入しました。

この技術には、アドビやBBC、インテルなどと共同開発した業界標準規格であるC2PAが採用されています。

開発プロセスの刷新と研究機関への助成

社内の開発規程にもメスを入れており、長年使われてきたセキュリティ開発ライフサイクル（SDL）に責任あるAIの基準を統合しました。

これにより、機械学習特有の脅威を想定した脅威モデリングが日々の開発プロセスに義務付けられることになります。

外部との連携も活発化させており、9月には基盤モデル研究支援プログラムを通じて、世界13カ国75機関の125件のプロジェクトに助成金を提供しました。

また、Anthropic、Google、OpenAIとともに設立したFrontier Model Forumを通じ、AI安全性基金への出資やスタンフォード大学などとの共同評価基準策定も進めています。

なぜ重要か

一般ユーザーやコンテンツ制作者にとって、Bing Image CreatorにC2PA規格が適用されたことは、生成画像の見分けをつけるための実用的な一歩となります。独立チームによる検査が入ることで、危険な出力に遭遇するリスクも低減します。

業界全体で見れば、マイクロソフトが打ち出す包括的な安全策は、新興AI企業に対する参入障壁を一段と引き上げる効果を持ちます。独立した検証部隊を抱え、世界中の大学に資金を配れるのは巨大企業に限られるためです。

同社の戦略は非常に巧妙だと見えます。政府から一方的に厳しい法規制を課される前に、自らが持つ開発手順や業界コンソーシアムを国際標準として定着させようとしているためです。

ただし、自主的な誓約やメタデータによる認証は、悪意ある改ざんや規制外のオープンソースモデルに対してどこまで通用するか不透明です。現在の取り組みは前進ではあるものの、真の安全網としてはまだ課題が残されていると言えます。