本文へスキップ
IFAI

業界動向

EU AI法対応へ:OpenAIが安全性と透明性の取り組みを公表、透かしを音声にも拡大

公開 拡散指数 37

OpenAIはEU AI法の次段階に向けて汎用AIやコンテンツ透明性に関する行動規範を支持し、安全対策の枠組みを公表した。レッドチーム検証やシステムカードに加え、C2PAとSynthID透かし技術を音声出力にも拡大している。欧州市場での規制順守を明確にした動きだ。

EU AI法対応へ:OpenAIが安全性と透明性の取り組みを公表、透かしを音声にも拡大
画像:openai.com

EU AI法の施行が次の段階へ進む中、OpenAIが欧州規制への全面的な適応策を公表しました。

OpenAIは安全性や透明性、来歴管理に関する取り組みをまとめた方針を発表し、欧州連合が策定を進める2つの行動規範を正式に支持することを明らかにしました。対象となったのは、汎用AI(GPAI)に関する規範と、AI生成コンテンツの透明性に関する規範です。

音声への透かし拡張と官民連携

GPAIの行動規範に対応するため、OpenAIは従来からの安全対策を改めて整理しています。事前テストの徹底やシステムカードの公開、外部専門家によるレッドチームネットワークの活用に加え、2023年に策定され2025年に改定された「Preparedness Framework(準備フレームワーク)」を運用しています。

透明性の面では、具体的な機能拡張が示されました。画像向けに提供してきたC2PAメタデータとSynthIDによる不可視透かしの二重保護を、音声出力にも拡大します。将来的に技術標準が整えば、テキストなど他のモダリティにも広げる方針です。

さらにサイバー防衛でも欧州当局との距離を縮めています。5月初旬に立ち上げた「EUサイバー行動計画」を通じ、重要インフラ事業者や欧州各国のサイバー機関に対し、Trusted Access for Cyberプログラム経由で高度な防御モデルを提供していると説明しました。

なぜ重要か

欧州市場でAIサービスを展開する開発者や企業にとって、今回の発表は実用的な安全弁になります。EU AI法に単独で対応するのは法務コストが重すぎますが、OpenAIがシステムカードや検証ツールをセットで提供してくれるなら、下流事業者のコンプライアンス負担は大きく軽減されます。

一方で一般ユーザーの視点に立つと、課題は残ります。SynthIDの音声適用はディープフェイク対策として前進ですが、プラットフォーム間の転送でデータが欠落する問題は完全に解決していません。過度な過信は禁物と言えます。

今回の動きについて、OpenAIの立ち回りは非常に巧みだと評価できます。規制と真正面から衝突するのではなく、規範の策定に深く関わり、サイバー安全保障で当局に協力することで、自らの安全基準を「デファクトスタンダード」に仕立てようとしています。これは一見すると単なる順法宣言ですが、実際にはオープンソース勢や後発スタートアップに対する強力な参入障壁として機能する可能性が高いとみられます。

情報源 (1)

  1. [1]
    openai.com(新しいタブで開きます)原文openai.com

毎日のAIピックアップ