TikTok、AI生成コンテンツのラベル機能を公開：リアルなAI動画に明記を義務化

TikTokは、人工知能によって作成または大幅に編集された動画に、クリエイター自身がラベルを付けられる新ツールの提供を開始しました。

同社はこれまでにもAIを活用したフィルターや背景画像を生成する機能を導入してきましたが、今回の施策に伴い、生成AIを利用した自社フィルターの名称に「AI」の文字を含める改名作業も進めています。

自己申告の義務化と自動検知の開発

このラベル機能はTikTok内の機能で作られたコンテンツに限定されません。外部ツールを用いて生成、あるいは大幅に加工された動画にも適用が可能です。

改定されたコミュニティガイドラインでは、実写と見分けがつかないようなリアルなAI生成の画像、音声、動画について、ラベル表示を義務付けています。視聴者に文脈を伝え、誤解を招くコンテンツの拡散を防ぐことが目的ですが、専用ラベルを使わずにステッカーやテキストで明記することでも規定を満たせます。

もっとも、クリエイターの良心だけに頼っていては限界があります。そのためTikTokは、AI生成コンテンツを自動的に検知してラベルを付与するアルゴリズムの開発を進めていることも明らかにしました。こちらの提供時期は未定です。

これらの施策は安全諮問委員会や学術機関の協力を得て策定されました。あわせて同社は「Partnership on AI」が定める合成メディアの責任ある実践規範への準拠を表明し、非営利団体Digital Momentと連携して若年層との対話セッションも開催する予定です。

なぜ重要か

クリエイターにとっては、投稿時のルールが明確化された形です。リアルなAI生成コンテンツを扱う場合、自己申告を怠ると規約違反になるリスクが生じます。現状はワンタップまたはテキストでの明記で済むため、アカウント運用の安全を考えれば今のうちに習慣づけておくべきでしょう。

業界全体にとっても、ディープフェイクやAI生成コンテンツへの対策基準を引き上げる動きとなります。ショート動画プラットフォームにおいてAIによる偽情報対策は急務であり、TikTokが明示的なラベル義務化に踏み切ったことで、競合各社も同様の対応を迫られることになります。

今回の取り組みにおいて、自社フィルターの改名や手動ラベルの導入は即効性があり、プラットフォームとしての姿勢を示す点では賢いアプローチと言えます。ただし、悪意を持って偽情報を流す人物が自発的にラベルを貼ることは期待できません。取り組みの実効性は、開発中とされる自動検知システムがどれだけ高い精度で機能するかにかかっていると私たちは考えます。