跳到正文
IFAI

行业动态

Bumble 计划引入 AI:希望在「有毒关系」发生前拦截

首次发布 传播指数 31

据 Fast Company 报道,Bumble 创始人 Whitney Wolfe Herd 在播客中透露,公司计划借助 AI 实现更精准的恋爱匹配,甚至在有害关系发生前加以预防。她强调 AI 必须有女性深度参与输入与构建,避免重蹈早期移动互联网偏向男性的覆辙。

很多人刷约会软件最大的恐惧,不是匹配不到人,而是聊了几周才发现对方是个情绪黑洞或控制狂。

主打「女性主动迈出第一步」的 Bumble,现在想让 AI 来当这个扫雷兵。

创始人 Whitney Wolfe Herd 最近在播客节目《Leaders in Innovation》里透露,他们正在探索如何用 AI 促成更好的配对,甚至在「有毒关系」发生之前就把它们拦下来。

这也是她卸任 CEO 之前交代的重要方向之一。11 月 6 日 Bumble 宣布,Slack 现任 CEO Lidiane Jones 将在 1 月 2 日正式接任 CEO,而 Wolfe Herd 自己则转任执行董事长,继续掌舵公司的 10 年规划,重点抓公共政策与社会影响。

互联网从不是为女性设计的,AI 也一样

Wolfe Herd 在 2014 年创办 Bumble 时,女生主动跟男生搭讪在很多地方还是个忌讳。

她当时直言「互联网从一开始就不是为女性设计的」。在 2010 年代移动互联网爆发的那波浪潮里,女性的真实体验基本被产品经理们忽略了。

现在轮到了 AI。Wolfe Herd 担心,如果算法工程师、核心用户和训练数据集依然全向男性倾斜,AI 很可能会重蹈覆辙。

她的解法很直接:必须让女性参与控制输入端。不管是女医生、女科学家还是女性研究领域的学者,都要参与到底层设计里来。

其实 Bumble 之前就尝到过算法安全甜头。他们在 2019 年上线过一个 AI 不雅图片检测器,识别准确率达到 99%。这项技术不仅挡住了骚扰图片,甚至直接推动了美国多个州立法打击「网络露阴」行为。Wolfe Herd 把这种尝试称为「女性凝视下的 AI 实践」。

预测心动容易,预测「有毒」很难

现在 Bumble 想把 AI 往前推一步,直接介入情感匹配的核心机制。

常规的推荐算法无非是看两个人有没有共同爱好、年龄坐标和滑动习惯。但 Wolfe Herd 想做的是用 AI 识别更深层的契合度,在两个人建立联系之前,就测出潜在的不健康互动模式,提前避免有毒关系的滋生。

不过,她并没有在节目里拆解这套防范机制具体怎么落地、究竟是靠聊天语义分析还是更前置的资料审核。

为什么重要

如果这套机制真能做出来,对那些饱受杀猪盘、PUA 和情感虐待困扰的交友软件用户来说,绝对是个救命功能。但我们认为,这也伴随着极大的现实隐患。

一个关键问题是边界在哪里。AI 要怎么判定一段关系是「有毒」还是「性格磨合」?如果算法介入太深,平台是不是得读取更多私密聊天记录?这很容易让安全工具变成侵犯隐私的监控探头。

对整个在线婚恋行业来说,Bumble 这一步走得相当敏锐。如今大部分交友软件的商业模式都在被「匹配倦怠」反噬,用户滑累了、失望了就会卸载。如果谁能用 AI 把关系的健康度托底,谁就能留住最核心的高黏性用户。

从招揽 Slack 前掌门人到提出 AI 防御战,看起来 Bumble 并不打算只做个看脸滑动的游乐场。但要把主观的情感毒性变成客观的代码,他们面临的技术和伦理考验才刚刚开始。

来源 (1)

  1. [1]
    fastcompany.com(在新标签页打开)原文fastcompany.com

每日 AI 内容精选