跳到正文
IFAI

AI工具

Reddit 升级审核工具:用大模型 Rules Hub 取代 Automod

首次发布 传播指数 37

Reddit 宣布将对平台基础设施和审核工具进行现代化改造。其核心是扩大测试基于大语言模型的审核套件 Rules Hub,以语义和意图理解取代过去依赖关键词匹配的 Automod,更精准地拦截违规内容。该工具现已面向所有新创建社区开放测试,预计今年晚些时候正式推出。

玩过 Reddit 的人都知道,各个版块里的机器人 Automod 有多死板。有时候你只是在句子里引用了一个词,或者用了谐音,帖子就直接被秒删;新注册的账号更是到处碰壁,连踩好几个「发帖需要账号满 30 天、Karma 达到 100」的隐形门槛。

拥有 21 年历史、每天有超过 1.3 亿用户访问的 Reddit 宣布,要对其底层架构和社区管理工具进行一场彻底的现代化改造。

让大模型接管版务,替换死板的关键词规则

这次调整的核心,是一个叫 Rules Hub 的新管理套件。它和过去最大的不同在于,它不再依靠 Automod 那种机械的关键词或正则匹配,而是引入了大语言模型来理解版规背后的意图。

也就是说,AI 会去判断发帖人是不是真的在违反规则,而不是看到某个敏感词就一刀切。版主可以设定哪些规则由 AI 自动执行、触发后是扔进审核队列还是直接删除,还能在上线前预览拦截效果。

过去几个月里,Rules Hub 已经在包括版主委员会网络在内的 700 多个社区进行了早期测试。接下来,所有新建的社区都会默认开放测试,预计今年晚些时候全面推开。

配合之前上线的发帖提示和高赞评论检查等功能,Reddit 的长远目标是用这套 LLM 工具逐步取代传统的 Automod。官方还表示,一旦系统级防骚扰能力变强,未来社区就能减少对账号年龄和 Karma 声望值的硬性限制,让新用户更容易说上话。

限制公共 API,老版 Reddit 也要动刀了

除了给版主换工具,Reddit 还对平台生态收紧了口袋。官方确认将逐步限制公共 API 的新请求,要求第三方应用必须迁移到官方的开发者平台上。

为了安抚开发者,Reddit 拿出了 100 万美元设立应用迁移项目,直接协助头部工具开发者完成过渡,并承诺在开发者平台上开放更多插件和新接口。

与此同时,诞生了 21 年的旧版网页 Old Reddit 也面临调整。为了防止数据被无节制抓取和垃圾内容轰炸,Reddit 短期内会继续维持必须登录才能访问 Old Reddit 的策略,并着手把关键的版主工作流迁移到新版底层。Reddit 直言,未来还会对 Old Reddit 做出更多调整。

为什么重要

对普通用户和新手来说,这绝对是个利好。大模型最大的优势就是懂语境,以后因为误触关键词被删帖、或者因为账号太新无法参与讨论的情况会大幅减少,社区准入门槛明显降低了。

对整个社交和 AI 行业来说,Reddit 的动作释放了一个极其明确的信号:数据防线正在焊死。从收紧公共 API,到逐步对 Old Reddit 下手,本质上都是在给外部 AI 爬虫筑墙,把高质量的人类对话资产牢牢锁在自己的付费授权体系里。

我们认为,Reddit 这次在管理工具上押注 LLM 相当聪明。版规的执行本来就充斥着大量灰色地带,死板的规则引擎早就该退休了,用 AI 替代繁重的日常垃圾过滤,能把版主从重复劳动里解放出来。

但这里的隐患依然存在。很多核心硬核老用户之所以留着,就是因为受不了新版的臃肿,如果 Reddit 后续以防爬虫为由对 Old Reddit 动刀过甚,或者开发者迁移支持没做好,很容易再次激起类似之前的社区抵制风波。

来源 (1)

  1. [1]
    redditinc.com(在新标签页打开)原文redditinc.com

每日 AI 内容精选