OpenAIやGoogleなど各社が連携、生成AIの児童安全保護原則を導入

生成AIによる画像やテキストの生成能力が急速に進化する一方で、子どもを標的にした性的虐待コンテンツの生成や拡散という深刻なリスクが浮き彫りになっています。

OpenAIやAnthropicをはじめ、Amazon、Google、Meta、Microsoft、Mistral AI、Stability AI、そして画像生成コミュニティのCivitaiに至る業界の主要企業が、「Safety by Design（設計段階からの安全性確保）」原則の導入を発表しました。この取り組みは、子どもの性的虐待防止に取り組む非営利団体Thornと、技術と社会の課題に取り組むAll Tech Is Humanが主導したものです。

各社は、AI技術が悪用されて子どもに対する性的虐待コンテンツ（CSAMおよびAI生成のAIG-CSAM）が作成・拡散されるのを防ぐため、製品ライフサイクル全体で対策を講じることに合意しました。

開発から運用まで網羅する3段階の防壁

今回合意されたガイドラインは、開発（Develop）、展開（Deploy）、維持（Maintain）という3つの段階で安全基準を定めています。

開発段階では、学習データから児童の性的搾取・虐待素材を徹底的に検出して排除し、該当する素材を確認した場合は全米行方不明・被搾取児童センターなどの公的機関に通報することが義務付けられます。

さらに、モデルを公開する前には敵対的なストレステスト（レッドチーミング）を繰り返し実施し、悪用手法を事前に洗い出すプロセスも盛り込まれました。

展開時には、入出力両面での検知フィルターの導入やユーザーからの通報機能、モデルカードへの安全性情報の記載が求められます。

運用段階に入ってからも、オープンソースインテリジェンス（OSINT）などを活用して悪用の手口を調査し、プラットフォーム上の不正な生成物を排除していく方針です。参加企業は毎年、進捗状況の年次報告書を公開することでも合意しています。

Anthropicは自社の取り組みとして、画像入力には対応しているものの、画像出力機能は現時点で提供しておらず、画像生成に伴う直接的なリスクを抑えている現状を明らかにしました。

なぜ重要か

今回の合意で最も注目すべき点は、署名企業の顔ぶれです。

OpenAIやGoogleのような自社APIで管理する企業だけでなく、モデルを広く公開しているMistral AIやStability AI、さらにはユーザー生成モデルが集まるプラットフォームのCivitaiまでが名を連ねています。

オープンソース界隈はこれまで安全対策の死角になりやすいと批判されてきましたが、陣営の垣根を越えて最低限の防衛ラインを共有できたことは、業界全体の健全性をアピールする上で大きな意味を持ちます。

事後的な規制や削除対応に頼るのではなく、開発初期のデータ精査や設計段階に責任を組み込むアプローチは、非常に理にかなった一手だと考えられます。

ただし、課題は実行力にあります。クラウド経由のAPIであれば遮断は容易ですが、オープンなモデルがダウンロードされ、ローカル環境で自由に改変できる状況において、設計段階の原則がどこまで実効性を保てるかは依然として大きな試練となりそうです。