マッチングアプリ「Bumble」、AIで「有害な関係」を未然に防止へ

マッチングアプリを使っていて最も避けたいのは、理想の相手だと思って親しくなった後、相手がモラハラ気質やトラブルメーカーだと判明する瞬間でしょう。

女性側からアプローチする仕組みで知られるBumbleは、この問題にAIで立ち向かおうとしています。

創業者であるWhitney Wolfe Herd氏はポッドキャスト番組「Leaders in Innovation」に出演し、AIを活用してより相性の良いペアを見つけ出すだけでなく、有害な関係（Toxic relationship）を発生する前に防ぐ構想を語りました。

Bumbleは11月6日、Wolfe Herd氏がCEOを退任することを発表しています。後任には現SlackのCEOであるLidiane Jones氏が1月2日付で就任予定です。Wolfe Herd氏は退任後も取締役会長として残り、公共政策や社会的インパクトなど長期計画に関わり続けます。

インターネットは女性のために作られてこなかった

Wolfe Herd氏は2014年の創業当時から、インターネットや2010年代のモバイルアプリ空間が女性の視点を軽視して作られてきたと指摘してきました。

同氏が危惧しているのは、AIの開発者やデータセットが男性偏重のまま進めば、過去と同じ過ちを繰り返すという点です。

だからこそ、女性の医師や科学者、女性学の研究者がAIのインプット設計に関与し、主導権を握る必要があると訴えています。

Bumbleには先行事例もあります。2019年に導入したAI活用の不快画像検知機能は99%の検知精度を誇り、複数の州でサイバー露出行為を取り締まる法改正のきっかけとなりました。

なぜ重要か

マッチングアプリ利用者の多くが遭遇する悪質なユーザーや精神的ストレスをAIで未然に防げるなら、利用者にとって非常に心強い安全網になります。

しかし、この構想の実現には極めて高いハードルが伴うと私たちは考えます。何をもって「有害な関係」と定義するのかという基準は極めて曖昧で主観的です。相性を予測するためにプライベートなチャットや行動履歴を過剰に学習・監視することになれば、プライバシー侵害の懸念が生じるのは避けられません。

業界全体を見渡すと、従来のスワイプ型マッチングは飽和し、ユーザーの「マッチング疲れ」が課題になっています。Slackで組織向けプロダクトを統括してきたLidiane Jones氏を経営に迎えつつ、創業者がAIによる安全性という独自軸を打ち出したのは賢明なポジショニングと言えます。

不快画像の自動削除と、人間関係のトラブル予測とでは技術の複雑さが桁違いです。AIを単なるマッチング効率化ではなく、女性の安全を守る盾としてどこまで実用化できるか、今後の具体策が注目されます。