OpenAI 放宽 ChatGPT 画图审核:允许生成公众人物肖像
OpenAI 放宽了 ChatGPT 的图像生成审核规则。新政策不再一刀切拒绝敏感提示词,允许用户生成特朗普等公众人物肖像以及中立语境下的敏感符号。OpenAI 称此举旨在转向防范现实危害并赋予用户更多控制权,但针对儿童的保护依然严格。

过去你在 ChatGPT 里让它画个特朗普,或者要求把画中人的眼睛改得更像亚洲人,它大概率会冷冰冰地弹出一句抱歉,我不能这么做。
但这周情况全变了。随着 GPT-4o 原生图像生成功能在 ChatGPT 上线,OpenAI 悄悄拆掉了不少过去立得死死的内容护栏。
现在你不只能用它做最近爆火的吉卜力风格插画,甚至可以直接要求生成特朗普、马斯克等公众人物的肖像,或者调整人种外貌特征。
从「一律拒绝」到「精准防范」
OpenAI 模型行为负责人 Joanne Jang 在博客里明确表示,他们正在改变策略,从过去在敏感领域搞一刀切的直接拒绝,转向重点防范现实危害。
在最新规则下,ChatGPT 已经允许生成和修改公众人物的图像。OpenAI 解释说,自己不想充当判断谁重要、谁不重要的仲裁者,不过他们也给公众人物提供了一个退出选项,不想被 AI 生成的人可以主动申请排除。
除了公众人物,OpenAI 对争议内容的定义也松动了。过去系统会直接拒绝改变体型或种族特征的提示词,比如让人看起来更胖一点,但外媒测试发现这类修改现在都能顺利执行。
在教育或中立背景下,ChatGPT 甚至被允许生成纳粹卐字符等仇恨符号,前提是不明确宣扬或支持极端主义主张。
在画风上,新功能可以模仿皮克斯、吉卜力这类知名工作室的整体风格,但依然限制模仿单个人类在世艺术家的画风。在涉及儿童的生成内容上,OpenAI 在白皮书里强调,新模型的防护其实比之前的 DALL-E 3 还要严格。
政治审查风波下的转身
OpenAI 拆护栏的时间点耐人寻味。此前谷歌 Gemini 因为把美国建国先贤和二战德国士兵画成多元族裔而遭遇舆论海啸,硅谷科技巨头长期被保守派指责暗中搞 AI 审查。
本月早些时候,共和党众议员 Jim Jordan 还向 OpenAI 和谷歌等公司发出质询,调查它们是否曾与拜登政府合谋审查 AI 生成内容。再加上 Meta 和 X 此前也纷纷放宽了对争议内容的限制,整个硅谷的大气候都在转向。
不过 OpenAI 否认这次调整与政治有关。官方的说法是,他们一直希望能给用户更多控制权,而现在的技术水平终于足够应付这些敏感题材了。
为什么重要
对创作者和普通用户来说,现在的 ChatGPT 明显变得更好用了。你不再需要费尽心思去绕过死板的关键词检测,想给角色换个肤色、修个脸型,或者做一张时事政治讽刺漫画,AI 都能直接听懂并执行,实用性提升了一大截。
但对行业和 OpenAI 自身而言,这是一场走钢丝式的冒险。
我们认为,OpenAI 这一步走得相当精明。它既迎合了当下华盛顿对反审查的政治诉求,又顺手把创作自由的卖点从竞品手里抢了过来。然而隐患也显而易见:把一刀切改成按语境判断,对模型的理解能力要求极高,系统很难永远精准分辨什么是中立的历史讨论,什么是恶意仇恨宣传。
接下来,Deepfake 虚假信息和针对名人的恶搞甚至诽谤,大概率会迎来一波爆发。看起来 OpenAI 已经做好了承受这种争议的准备,但一旦闹出真正的公关危机,这道刚刚松开的安全门,很可能又会被迫焊死。
来源 (1)
- techcrunch.com(在新标签页打开)原文techcrunch.com
话题追踪OpenAI 调整模型规范以减少过度审查
- OpenAI 放宽 ChatGPT 画图审核:允许生成公众人物肖像本条
- OpenAI 给 ChatGPT「松绑」:拥抱思想自由,争议话题不再直接拒答
- OpenAI 移除 ChatGPT 橙色内容警告:减少莫名拒绝,给模型松绑
- OpenAI 更新 Model Spec:支持探讨争议话题,规范以 CC0 开源