「CoD」、AIによるボイスチャット監視を導入　暴言や嫌がらせをリアルタイム検知

「Call of Duty」シリーズのボイスチャットといえば、ゲーマーの間でも荒れやすさで知られています。過去の調査ではゲーム界で最も攻撃的と評され、プレイヤー同士のトラブルが特殊部隊（SWAT）の出動騒ぎにまで発展したことすらありました。

長年この問題に頭を悩ませてきたActivisionが、対策として本格的なAIの導入に踏み切りました。

同社は音声モデレーション技術を手がけるModulateと提携し、AIを活用したシステム「ToxMod」をゲーム内に導入すると発表しました。

北米地域では本日から「Call of Duty: Modern Warfare II」と「Call of Duty: Warzone」を対象にベータ運用が始まっています。さらに11月10日の「Call of Duty: Modern Warfare III」発売に合わせて全世界で本格導入される予定ですが、プレスリリースによるとアジア地域は対象外とされています。

声の大きさや感情まで読み取る

音声の監視というと、音声を文字起こししてNGワードを機械的に弾く仕組みを思い浮かべるかもしれません。しかし対戦ゲームでは、仲の良い友人同士の軽口と悪質な嫌がらせの境界線が非常に曖昧です。

ModulateのCEOによると、ToxModは単なる文字起こしにとどまらず、プレイヤーの声のトーンや感情、声量といった文脈情報まで踏まえて解析します。

これにより、仲間内の冗談交じりのやり取りなのか、それとも規約に違反するヘイトスピーチや差別、ハラスメントなのかを高精度で見分けることを目指しています。

ただし、AIがプレイヤーを即座にBANするわけではありません。

現時点では、AIの役割は問題発言をリアルタイムで検知し、前後の文脈を添えたレポートをActivisionのモデレーターへ提出することに限られています。最終的な処分は人間の手で判断されます。

音声認識モデルは人種やアクセントによって判定に偏りが出やすいことが研究で指摘されており、人間のチェックを残すことは誤認を防ぐための重要な安全策といえます。

なぜ重要か

テキストチャットの自動監視は定着していますが、リアルタイムのボイスチャット監視は技術的ハードルが極めて高く、各社が手をこまねいてきた領域でした。

一般プレイヤーにとって、暴言や嫌がらせが減る恩恵は大きいです。特にボイスチャットの治安の悪さを理由にミュートを強いられていたライト層が、安心してVCを使えるようになる価値は無視できません。

一方で、対戦中の興奮した叫び声などがどう解釈されるかという不安は残ります。アジア地域が今回の導入から外された点を見ても、多言語対応や多様なアクセントの処理にまだ課題を抱えていることがうかがえます。

今回の施策で巧妙なのは、AIに処罰の権限を与えず、人間のトリアージ役に徹点させた点です。過剰な誤BANによるユーザー離れを防ぎつつ、膨大な通報をさばく運用コストを現実的な範囲に抑えられます。この取り組みの成否は、今後のオンライン対戦ゲーム全体のモデレーション標準を左右することになりそうです。