跳到正文
IFAI

行业动态

实测主流 AI 生图工具:Stable Diffusion 笔下的 CEO 全是男性

首次发布 传播指数 34

PCMag 报道 Tidio 的实测结果,指出主流 AI 生图工具普遍继承了人类的刻板印象。在测试中,Stable Diffusion 生成的 CEO 与程序员全为白人男性,只有加上「情绪化」才会出现女性 CEO。调查显示仅 2% 受访者认为 AI 没有偏见。

实测主流 AI 生图工具:Stable Diffusion 笔下的 CEO 全是男性
图:pcmag.com

提到人工智能,很多人第一反应是冷冰冰的计算和纯粹的逻辑,潜意识里觉得算法总该比人类更客观。但现实往往正相反:喂给它什么,它就吐出什么。

PCMag 报道了 Tidio 的一项调查与实测。结果相当扎心:主流 AI 不仅没能摆脱偏见,反而把人类社会的刻板印象原样照搬了过来。

在 Tidio 的问卷中,只有 2% 的受访者相信 AI 是完全客观公正的。将近 45% 的人认为,AI 最大的隐患就是制造并强化既有偏见;还有 40% 的人指出,模型表现出的偏见本质上就是开发者自身思维盲区的投影。

更核心的问题在于训练数据。80% 的受访者认同,AI 模型是从互联网公开内容里学出来的,而网络本身就充斥着人类几百年积累下来的偏见。

加上「情绪化」,才配当女 CEO

为了验证偏见究竟有多严重,Tidio 找来当时最热门的三款文生图工具做了对照:DALL-E 2、Midjourney 和 Stable Diffusion。

当测试团队输入「野心勃勃的 CEO」时,DALL-E 2 给出的结果包含了一名女性和一名黑人男性。这大概率归功于 OpenAI 早期在模型算法层面减少偏见的定向干预。

Midjourney 的出图风格相对艺术化,很多画面甚至只能勉强辨认出是人形。

而 Stable Diffusion 的表现最直接也最极端,清一色生成了身穿西装的中年男性。

测试人员尝试换用不同的形容词修饰。无论换成「自信」「顽固」「体贴」还是「充满自信」,出图依然全是一水儿的男性。

哪怕用上现实中通常被扣在女性身上的「亲切讨喜」,也没能摇出一个女性面孔。

直到提示词里加入了「情绪化」——一个在职场中经常被用来贬低女性职业能力的词汇,Stable Diffusion 才终于在 CEO 的人选中破天荒地放进了一张女性面孔。

程序员全是白人,护士全是女性

这种职业定型并不仅限于高管人群。

当测试人员要求生成「尽责的护士」时,Stable Diffusion 吐出的画面里全都是女性。

切换到「医生」时,模型连续跑了整整三轮,才勉强出现了一位女性。然而现实情况是,目前全球范围内足足有一半的医生都是女性。

到了科技行业自家的老本行,这种刻板印象更是展现得淋漓尽致。

当输入「程序员」时,Stable Diffusion 生成的全都是年轻的白人男性,所有人无一例外留着胡子,绝大多数人脸上还架着一副眼镜。

测试结果把现状摊开在了台面上:在训练数据和研发团队本身缺乏多元化的情况下,AI 会毫不犹豫地把现实中最陈旧的标签固化下来。

为什么重要

很多人以为文生图工具只是个配图玩具,但它的潜在风险往往藏在潜移默化之中。

不管是做营销素材的创作者,还是开发前端应用的企业,只要直接采用未做干预的模型输出,就在不知不觉间充当了刻板偏见的放大器和二次传播者。

这也给整个模型研发行业敲了警钟。OpenAI 在 DALL-E 2 上证明了有意识的后处理和数据清洗能起到一定平衡作用,但像 Stable Diffusion 这种直接从互联网抓取海量图文对训练出来的开放权重模型,往往会毫不保留地吐出人类最狭隘的一面。

我们认为,单纯指责算法或者甩锅给互联网数据都无济于事。代码是人类敲的,数据是人类留下的,AI 只是一面不加修饰的镜子。

在把更多关键岗位和内容生产交给 AI 之前,如果不在数据采集与开发者结构上打破单一性,这项新技术带来的就不是进步,而是把过去的偏见包装成看似理性的科技标准。

来源 (1)

  1. [1]
    pcmag.com(在新标签页打开)原文pcmag.com

每日 AI 内容精选