Meta 探索生成式推荐系统：把内容推荐做成「下一词预测」

如果你平时刷 Instagram 或者刷短视频，可能会觉得算法像个不知疲倦的图书管理员，每次你一刷新，它就跑到几亿本书的书架里，一本本比对哪本最合你胃口。

这就是行业里用了十几年的稠密检索。但随着内容和商品库无限膨胀，这种挨个翻书的办法快把服务器吃垮了。最近 Meta 在两篇新论文里公布了一种全新解法：不再去数据库里捞针，而是让大模型像猜下一个词一样，直接「写出」你下一步想看什么。

把推荐变成「续写故事」

传统的推荐系统要给每个用户和每个商品算出一长串数字向量。用户发起请求时，系统要把这个向量跟整个商品库挨个做相似度匹配。商品越多，要存的数据越大，算力账单就越吓人。

Meta 转向的生成式检索彻底换了思路。它先给每个物品生成一个带有上下文含义的「语义 ID」（Semantic ID）。比如类似 TIGER 这样的系统，第一阶段用编码器给物品生成唯一的语义 ID 并存下来。

第二阶段，系统用 Transformer 模型把你过去互动的语义 ID 排成序列，直接预测下一个语义 ID 是什么。这样一来，系统根本不用去遍历整个商品库，存储和推理成本几乎不会随着商品数量增加而暴涨。你甚至可以通过调节模型的采样温度，来自由控制推荐结果是保守还是更多样。

解决冷启动与读懂抱怨

纯生成式检索也有个致命死穴：它太容易对训练过的内容过拟合。一旦平台上架了新商品或者来了新用户，因为模型之前没见过，就会遭遇严重的冷启动问题。

为此 Meta 搞出了一个叫 LIGER 的混合系统。训练的时候，它同时兼顾向量相似度和下一个 Token 的预测目标；实际推荐时，它先用生成机制挑出一批候选，再顺手塞进几个冷启动新物品，最后用向量重新打分排序。这等于把生成式的高效和传统向量检索的抗冷启动能力绑在了一起。

在另一篇论文里，Meta 还拿出了一个叫 Mender 的多模态偏好辨别器。很多时候用户的心思藏在互动里，比如在评价里夸了一句或者骂了一句。Mender 会先用大语言模型把这些行为翻译成具体的偏好标签，主推荐模型在预测下一个语义 ID 时，就会把互动历史和这些提炼出来的偏好一起算进去。

为什么重要

对普通用户来说，最直观的体验可能是在刷信息流时，系统不再像个只看点击率的冷血机器，它能更快理解你的真实情绪和长远偏好，甚至能推给你一些意想不到却很对味的内容。

对整个推荐系统和搜索行业而言，这是一次底层的技术转向。以前大厂做推荐，比拼的是谁的向量数据库更大、向量检索集群更猛。Meta 这套做法证明，用 Transformer 预测语义 ID 可以把推理和存储开销压到常数级别，这会让很多中小团队在面对海量商品库时不必承担天文数字般的硬件成本。

我们认为，Meta 这一步走得非常精明。它没有盲目迷信纯生成式架构，而是用 LIGER 把经典向量检索当成安全气囊，既保住了算力成本，又化解了新商品无法曝光的商业风险。不过这种方案依然有隐患，大模型生成语义 ID 的幻觉问题、ID 词表的维护成本，以及多模态提炼偏好时的延迟，在万亿级请求的实时场景下到底能不能扛得住，还需要真实业务场景的长期检验。