XboxがAI対策を強化：迷惑メッセージを自動遮断、対応速度が88%向上

オンライン対戦を終えてロビーに戻った瞬間、見知らぬアカウントからスパムや暴言メッセージが届く体験は、多くのゲーマーにとって頭痛の種でした。

マイクロソフトのXboxは11月13日、第5回目となる透明性レポートを公開しました。2024年1月から6月にかけて、新しいAIツールの導入とフレンド外からのメッセージ対策を強化した結果、コミュニティ基準に違反する1900万件のテキスト、画像、動画をプレイヤーの目に触れる前にブロックしたことを明かしました。

自動化と先回りで動く2つのAI

今回成果を上げた柱となっているのが、人間のモデレーターを支援するために導入された2つのAIツールです。

1つ目は2月に導入された「Xbox AutoMod」です。プレイヤーから通報された案件の一次処理を支援する仕組みで、これまでに120万件を処理し、違反コンテンツを削除するまでの時間を88%短縮させました。

2つ目は7月に導入されたプロアクティブ型のAIです。こちらは通報を待つのではなく、スパムや不正な宣伝メッセージを送信段階で検知して先回りして防ぎます。Xboxはこの検知技術を、今後さらに別の違反行為の対策にも広げていく方針です。

定型的な迷惑メッセージの排除をAIに任せることで、人間の審査スタッフは文脈の判断が難しい複雑なトラブルの対応に集中できるようになっています。

募集機能を狙う業者とプレイヤーの通報

AIの導入だけでなく、プレイヤーによる通報も大きな役割を果たしました。特に被害が目立ったのが、一緒に遊ぶ仲間を募る「グループ検索（LFG）」機能です。

不正アカウントがこの募集掲示板をスパム広告で埋め尽くしたため、LFG関連の通報件数は2倍となる200万件に跳ね上がりました。プラットフォーム全体の通報数も前年比8%増の3000万件に達しています。この通報データを元に、Xboxは1月に32万件だった不正アカウントの対処数を、4月には170万件にまで引き上げて一網打尽にしました。

傘下のスタジオでも対策が進んでいます。『マインクラフト』統合版では、不適切なチャットを検出した際に即時BANするのではなく警告を出して行動改善を促す仕組みを導入しました。『Call of Duty』シリーズでは、2023年11月以降で20言語・4500万件以上の不適切テキストを遮断し、ボイスチャットの有害行為を43%削減したと報告しています。

なぜ重要か

私たちは、XboxのAI導入の進め方は非常に手堅く賢明だと考えています。

ゲーム内の会話はスラングや冗談が飛び交うため、すべてをAIに任せて自動BANを行えば誤認判定によるユーザーの反発を招きます。Xboxは自律的な先回りブロックの対象を判定が明確な「スパムや広告」に絞り、通報案件ではAutoModを人間の作業補助に留めています。この切り分けによって、コミュニティの自然な交流を壊さずに安全性を高めています。

一般プレイヤーにとっての恩恵は明快で、見知らぬ業者からの詐欺メッセージに悩まされる機会が目に見えて減ることです。新しいフレンド管理設定と併用すれば、より快適なプレイ環境を作ることができます。

ゲーム業界全体にとっても、コミュニティの治安維持はプレイヤーの定着率を左右する重要な経営課題です。『Call of Duty』がAIによる音声監視で有害行為を半減させた実績は、ソニーやValveなど競合プラットフォームに対しても、リアルタイムなAIモデレーションの標準装備を迫る契機になりそうです。