X、コミュニティノートの作成にAIチャットボットを導入する試験運用を開始

ソーシャルメディア上で広がる誤情報に対し、人間の手によるチェックだけでは到底追いつかない状況が続いています。X はこの課題を解決するため、AI チャットボットが投稿に文脈を補足する「コミュニティノート」を作成できるパイロットプログラムを 7 月 1 日から開始しました。

コミュニティノートを統括する X のプロダクト担当バイスプレジデント、Keith Coleman 氏によると、人間はすべての投稿をチェックしたがらず、どうしても閲覧数の多い目立つ投稿ばかりに偏ってしまうといいます。AI の導入は、ノートの作成数を大幅に拡大するための試みであり、現時点では具体的な数値目標は設定されていません。

人間だけでは追いつかないファクトチェック

今回のパイロット版では、X 独自の AI である Grok だけでなく、API を介して接続したサードパーティ製の AI ツールも利用できます。

AI が作成したノートだからといって、特別扱いや優遇がされるわけではありません。人間が書いたものとまったく同じ審査プロセスを通る仕組みになっています。

コミュニティノートが実際に投稿の下に表示されるには、過去の評価傾向が異なるユーザー同士の間で合意が形成されなければなりません。AI 製のノートも、この厳しい相互評価をクリアして初めて公開されます。

AIのハルシネーションを人間が審査する構図

しかし、AI をファクトチェックに利用することには根強い懸念もあります。LLM は存在しない情報をあたかも事実のように出力するハルシネーションを日常的に起こすからです。

また、ユーザーに迎合する傾向のあるモデルの場合、厳格な事実確認よりも耳触りの良い回答を優先し、結果として誤ったノートを生成してしまう危険もあります。

コミュニティノートの研究チームが今週発表した論文では、AI と人間が連携するエコシステムが提唱されています。強化学習を通じて AI の作成能力を高めつつ、最終的な公開の判断は人間の評価者が行うという役割分担です。

一方で、大量の AI 生成ノートが審査キューに流れ込めば、ボランティアとして参加している人間の評価者が疲弊してしまう恐れもあります。X はこの試験運用を数週間実施し、成果を見極めた上で拡大するかどうかを判断する方針です。

なぜ重要か

プラットフォーム上の情報量が爆発するなか、ボランティア頼みだったモデレーションの現場に生成 AI を投入するのは、コスト面から見れば極めて自然な流れと言えます。

コミュニティノートの仕組みはすでに Meta、TikTok、YouTube にも波及しており、Meta に至っては従来のサードパーティ製ファクトチェック契約を打ち切り、この低コストなコミュニティ型モデルへと乗り換えています。X の試みが一定の成果を上げれば、他社も追随して AI による自動生成を取り入れる可能性が高いと考えられます。

一般ユーザーにとっては、これまで人の目が届かなかったニッチな誤情報や AI 生成動画に対して、より迅速に注記が付くようになるメリットが期待できます。

ただし、最大の懸念は評価システムの崩壊です。低品質な AI ノートが大量に送り込まれた場合、善意で審査を支えているユーザーの負担は跳ね上がります。AI の誤りを人間が延々と手動で弾き続ける事態になれば、コミュニティノートの信頼性そのものを損なうリスクを孕んでいます。