OpenAIやTikTokなど10社、生成AIの透明性指針に署名　AI生成物の明示を約束

ネット上で見かける動画や画像が、本物のカメラで撮影されたものか、それともアルゴリズムが作り出したものかを見分けるのは日増しに難しくなっています。

法規制の整備が追いつかないなか、主要なテクノロジー企業各社が自主的なルール作りに乗り出しました。

OpenAIやTikTok、Adobe、BBC、マッチングアプリのBumbleなど10社が、生成AIの責任ある開発と共有に向けた新たな自主指針に署名しました。この枠組みは、非営利研究団体のPartnership on AI（PAI）が50以上の組織と協議を重ねて策定したものです。

署名企業にはこのほか、カナダの公共放送CBC/Radio-Canada、人権団体のWitness、そしてSynthesia、D-ID、Respeecherといった合成メディア分野のスタートアップが名を連ねています。

「AI製」をどう明示するのか

ガイドラインが求めている核心は、徹底した「透明性」です。

OpenAIのような基盤モデル開発者に対しては技術の限界を明確にすることを求め、TikTokやBBCのような配信プラットフォームに対しては、ユーザーがAI生成コンテンツに接している事実を開示するよう求めています。

具体的な手法としては、AIによる透かし（ウォーターマーク）の付与、画面上での明確な免責表示、あるいは学習データやメタデータに追跡可能な要素を埋め込む技術の研究と導入が約束されました。

PAIでAIとメディアの信頼性を担当するクレア・レイボウィッツ氏は、合成メディアが悪用されるのを防ぎ、創造性や知識共有のために使われる環境を整えたいと説明しています。

専門家から相次ぐ「実効性」への疑問

一方で、この取り組みに対しては専門家から厳しい指摘も上がっています。

カリフォルニア大学バークレー校でディープフェイクを研究するハニー・ファリド教授は、「企業の自主的なガイドラインが機能することは滅多にない」と断言します。

最大の問題は、OpenAIがChatGPTやDALL-Eにいくら安全柵を設けても、この枠組みの外にいるプレイヤーを縛れない点です。例えば画像生成モデル「Stable Diffusion」を手がけるStability AIのようなオープンソース勢力からは、制限のないディープフェイクや不適切な画像が依然として生み出されかねません。

ファリド教授は、アマゾンやマイクロソフト、グーグル、アップルといったクラウドやアプリストアの運営企業が、悪意ある生成ツールを締め出すことや、AI透かしの義務化といった強制力のある措置が必要だと主張しています。

さらにIntelの上級研究員イルケ・デミル氏らは、ガイドラインが詐欺や偽情報を対象とする一方で、学習データ内の有害性や人種的な偏見といったAIモデル自体の根本的な問題に触れていない点を指摘しています。

なぜ重要か

一般のユーザーにとって、この指針がもたらす直接的な変化は、TikTokの動画やBumbleのプロフィールなどで「AI生成」のラベルを目にする機会が増えることです。フェイクに騙されるリスクを減らす手助けにはなりますが、規制外のツールが出回っている以上、完全に警戒を解くことはできません。

業界全体で見れば、今回の動きは欧州連合（EU）のAI規制法（AI Act）をはじめとする公的規制を見据えた、企業側の自己防衛という側面が強いと言えます。法的に重い義務を課される前に「自主規制できる」姿勢を示そうとしているわけです。

モデル開発者から配信プラットフォームまでが足並みを揃え、AI生成物の明示で合意したこと自体は前進と言えます。

しかし、違反に対する罰則のない紳士協定では、利益優先の競争や悪意ある利用を止めることは困難です。わずか10社の善意に頼るだけでは、生成AIの「無法地帯」を根本から正すには力不足に見えます。