Google研究者が論文で警告：生成AIの偽コンテンツがネットを汚染

Google が検索をはじめとする自社サービス全体に生成 AI の導入を急ぐ一方で、同社の研究チームから冷や水を浴びせるような研究成果が発表されました。

海外メディアの 404 Media が見つけた査読前のプレプリント論文によると、Google の研究者らは、生成 AI が生み出す偽コンテンツによってインターネットの広大な領域が急速に損なわれていると警告しています。

専門知識ゼロで量産される偽の証拠

研究チームは、これまでに発表された学術研究と、生成 AI の悪用を報じた約 200 本のニュース記事を詳細に分析しました。

現実世界における悪用の大半は、実在する人物の肖像の改ざんと、証拠の捏造に集中しているといいます。

これらの事例の多くは、世論の誘導や詐欺行為、あるいは手軽な金儲けという明確な意図を持って実行されていました。

問題をさらに深刻にしているのが、ツールの利用ハードルの低さです。研究者らは、現代のシステムが高度化する一方で、利用者に求められる専門知識は最小限で済むようになっていると指摘します。その結果、社会的な合意形成や科学的な事実認識が歪められやすくなっています。

「本物の証拠」すら AI のせいにできる危うさ

被害は、騙される人が出ることだけに留まりません。低品質でスパムのような合成コンテンツが溢れることで、一般ユーザーはすべてのデジタル情報に対して過度な疑念を抱くようになり、ファクトチェックの負担に圧迫されています。

さらに論文が不気味な傾向として挙げたのが、いわゆる「嘘つきの配当」です。不祥事を起こした著名人が、自分に不利な動かぬ証拠を突きつけられた際、「それは AI による捏造だ」と主張して言い逃れをする事例がすでに出始めているといいます。

証拠を検証する責任が過重に押し付けられ、真実を証明するコストが跳ね上がっている格好です。なお、今回の論文では、Google 自身が引き起こした検索での AI 誤情報トラブルなどには一切触れられていません。

なぜ重要か

この論文が突きつけているのは、「悪用」と呼ばれている現象の多くが、実は生成 AI の本来の強みが発揮された結果に過ぎないという残酷な現実です。

人間そっくりの画像やもっともらしい文章を低コストで量産できる以上、ネット上にゴミ情報が雪崩れ込むのは構造的な必然といえます。

一般ユーザーにとって、今後のネット空間はこれまで以上に信憑性の低い場所になります。精巧な詐欺に警戒しなければならないだけでなく、日常的な情報収集でも裏取りの労力が増え続けます。

私たちは、今回の論文が巨大 IT 企業の抱える深い矛盾を浮き彫りにしたと考えています。収益のために AI をあらゆる製品へねじ込む経営方針と、その技術がネットのエコシステムを破壊していると警鐘を鳴らす研究現場の乖離は、今後さらに広がっていきそうです。