Large Language Models for Generative Recommendation: A Survey and
  Visionary Discussions

Li Chen

论文状态：已完成

Large Language Models for Generative Recommendation: A Survey and Visionary Discussions

发表：2023/09/03

大语言模型微调 (45)基于大语言模型的推荐系统 (20)生成式推荐系统 (20)

原文链接 PDF 下载

价格：0.10

已有 11 人读过

本分析由 AI 生成，可能不完全准确，请以原文为准。

TL;DR 精炼摘要

本文综述了基于大语言模型（LLM）的生成式推荐，提出以LLM直接从全物品池生成推荐，简化传统多阶段流程。探讨其定义、优势及实现方法，旨在推动推荐系统范式革新，并解决现有多阶段推荐的计算和效果限制。

摘要

Large language models (LLM) not only have revolutionized the field of natural language processing (NLP) but also have the potential to reshape many other fields, e.g., recommender systems (RS). However, most of the related work treats an LLM as a component of the conventional recommendation pipeline (e.g., as a feature extractor), which may not be able to fully leverage the generative power of LLM. Instead of separating the recommendation process into multiple stages, such as score computation and re-ranking, this process can be simplified to one stage with LLM: directly generating recommendations from the complete pool of items. This survey reviews the progress, methods, and future directions of LLM-based generative recommendation by examining three questions:

What generative recommendation is, 2) Why RS should advance to generative recommendation, and 3) How to implement LLM-based generative recommendation for various RS tasks. We hope that this survey can provide the context and guidance needed to explore this interesting and emerging topic.

思维导图

论文精读

中文精读约 18 分钟读完 · 11,269 字

1. 论文基本信息 (Bibliographic Information)

标题 (Title): Large Language Models for Generative Recommendation: A Survey and Visionary Discussions (大语言模型用于生成式推荐：一篇综述与前瞻性讨论)
作者 (Authors): Lei Li, Yongfeng Zhang, Dugang Liu, Li Chen
隶属机构 (Affiliations): 香港浸会大学 (Hong Kong Baptist University), 罗格斯大学 (Rutgers University), 广东省人工智能与数字经济实验室(深圳) (Guangdong Laboratory of Artificial Intelligence and Digital Economy (SZ))
发表期刊/会议 (Journal/Conference): 本文为预印本 (Preprint)，发布于 arXiv。arXiv 是一个开放获取的学术论文存档平台，在计算机科学等领域被广泛用于快速分享最新研究成果，但未经同行评审。
发表年份 (Publication Year): 2023
摘要 (Abstract): 大语言模型 (LLM) 不仅革新了自然语言处理 (NLP) 领域，也具备重塑推荐系统 (RS) 等诸多领域的潜力。然而，多数相关工作仅将 LLM 作为传统推荐流程中的一个组件（如特征提取器），未能充分发挥其生成能力。本文提出，推荐过程可以从多阶段（如评分、重排）简化为单阶段：利用 LLM 直接从整个物品池中生成推荐结果。这篇综述通过探讨三个核心问题，回顾了基于 LLM 的生成式推荐的进展、方法和未来方向：1) 什么是生成式推荐？2) 为什么推荐系统需要向生成式推荐发展？3) 如何为各类推荐任务实现基于 LLM 的生成式推荐？作者希望本综述能为探索这一新兴课题提供必要的背景和指导。
原文链接 (Source Link):
- 摘要页: https://arxiv.org/abs/2309.01157
- PDF: https://arxiv.org/pdf/2309.01157v2.pdf
- 发布状态： 预印本 (Preprint)。

2. 整体概括 (Executive Summary)

研究背景与动机 (Background & Motivation - Why):
- 核心问题： 传统推荐系统在处理海量物品时，依赖于一个复杂的多阶段过滤流程（召回-排序-重排）。这个流程计算成本高昂，且导致学术界先进的复杂模型难以在工业界落地，因为它们通常只能作用于筛选后的数百个候选物品，而非全部物品。
- 重要性与挑战： 大语言模型 (LLM) 的出现为解决这一“学术-工业鸿沟”提供了契机。但现有研究大多将 LLM 降级为传统流程中的一个辅助工具（如特征提取器），未能充分利用 LLM 强大的生成能力来颠覆整个推荐范式。此外，推荐系统要求精确识别物品，而自然语言的模糊性（如“黑色SUV”）可能导致“幻觉”问题，即推荐不存在的物品。
- 切入点/创新思路： 本文提出一个全新的范式——生成式推荐 (Generative Recommendation)。其核心思想是将推荐过程统一为一个单阶段流程：训练 LLM 直接“生成”代表具体物品的唯一标识符 (ID)，从而彻底取代传统的多阶段过滤模式。为了实现这一点，论文重新定义了推荐系统中的 ID，使其能够与 LLM 的文本生成机制无缝衔接。
核心贡献/主要发现 (Main Contribution/Findings - What):
- 范式定义与推广： 首次系统性地定义和总结了 LLM-based generative recommendation 这一新兴领域。为了使其概念自洽，论文创造性地推广了推荐系统中 ID 的定义，将其从单个离散符号泛化为“能够唯一标识实体的令牌序列”，为 LLM 直接生成推荐奠定了理论基础。
- 方法论归纳： 梳理并总结了实现生成式推荐的关键技术环节。重点介绍了三种将协同过滤信息编码到物品 ID 中的 ID 创建方法，解决了如何让 LLM 理解并生成具有推荐价值的 ID 的核心难题。
- 任务体系构建与公式化： 构建了一个涵盖七种典型推荐任务的统一框架，并为每种任务提供了基于 LLM 的通用生成式公式 (prompt-based formulation)。这为后续研究者提供了一套清晰的实践指南。
- 前瞻性讨论： 深入探讨了该领域面临的八大挑战与机遇，包括 幻觉、可控性、效率 和 多模态 等，为未来的研究指明了方向。

基础概念 (Foundational Concepts):
- 推荐系统 (Recommender Systems, RS): 旨在解决信息过载问题的系统，通过分析用户的历史行为和偏好，从海量物品中预测用户可能感兴趣的内容并推荐给他们。
- 大语言模型 (Large Language Models, LLM): 如 ChatGPT，是在海量文本数据上预训练的深度学习模型。它们拥有强大的自然语言理解和生成能力，能够根据给定的输入（提示, prompt）完成各种任务。
- 判别式AI vs. 生成式AI (Discriminative AI vs. Generative AI):
  - 判别式AI 学习数据之间的边界，用于分类或回归任务。例如，在推荐中，它会为每个“用户-物品”对计算一个匹配分数（如“喜欢”的概率），然后排序。
  - 生成式AI 学习数据的分布，用于生成新的、与训练数据相似的内容。例如，它可以直接写出一首诗，或生成一张图片。本文的核心思想就是将推荐从判别式任务转变为生成式任务。
- ID (Identifier) in Recommender Systems (本文泛化定义):
  - 传统定义： 通常是一个与嵌入向量 (embedding vector) 关联的离散、无意义的编号，如 $user_123$ 或 $item_7391$ 。
  - 本文泛化定义 (Definition 1): 一个能够唯一标识实体（如用户或物品）的令牌 (token) 序列。 这个序列可以有多种形式，如数字序列 ("56 78")、物品标题 ("The Lord of the Rings")，甚至是无明确含义的词序列 ("ring epic journey fellowship adventure")。这个新定义是关键，因为它将 ID 变成了 LLM 可以直接处理和生成的“文本”。
- 生成式推荐 (Generative Recommendation) (本文定义):
  - 定义 (Definition 2): 一个直接生成推荐内容或与推荐相关内容的系统，而无需逐一计算每个候选物品的排名分数。 LLM 在这个范式下，通过自回归 (auto-regressive) 的方式，逐个令牌地生成物品 ID。
前人工作 (Previous Works):
- 传统多阶段推荐系统 (Multi-stage Filtering Paradigm): 以 Covington et al. (2016) 的 YouTube 推荐系统为代表，包含多个阶段：
  1. 召回 (Matching/Retrieval): 从数百万物品中快速筛选出数百个候选者。
  2. 排序 (Ranking): 使用复杂模型对候选者进行精确打分。
  3. 重排 (Re-ranking): 考虑多样性、新颖性等因素调整最终列表。
  - 局限性： 复杂模型无法作用于全量物品，导致“次优”问题；学术模型与工业实践脱节。
- 将 LLM 作为组件的推荐模型: 许多近期工作 (Liu et al., 2023c; Wu et al., 2023 等) 将 LLM 用于：
  - 特征增强： 提取用户/物品的文本特征。
  - 评分/排序： 对给定的候选物品进行打分。
  - 局限性： 这些方法仍遵循传统的“判别式”范式，未能发挥 LLM 的“生成”潜力。
技术演进 (Technological Evolution):
- 推荐技术从早期的协同过滤，到基于深度学习的复杂判别式模型，再到如今探索如何利用 LLM。
- 本文主张的演进方向是：从判别式推荐（为每个物品打分）彻底转向生成式推荐（直接生成物品 ID）。
差异化分析 (Differentiation):
- 与其他关于 LLM 用于推荐的综述相比，本文的核心区别在于：
  1. 聚焦生成式范式： 明确地将“生成式推荐”作为核心主题，并排除了判别式方法，使讨论更加集中和深入。
  2. 源于推荐社区的视角： 本文的分类法和讨论植根于推荐系统的核心任务和挑战，而不是简单地套用 NLP 领域的 LLM 分类法，更具专业性和实用性。

4. 方法论 (Methodology - Core Technology & Implementation Details)

本文的核心方法论是构建一个完整的“生成式推荐”框架。这主要包括两个部分：如何创建 LLM 可理解的 ID 和 如何将推荐任务转化为生成任务。

方法原理 (Methodology Principles):
- 核心思想： 通过将每个物品表示为一个独特的令牌序列（ID），推荐任务可以被重新定义为一个“序列到序列”的生成任务。LLM 接收描述用户偏好和任务的输入 prompt，然后生成目标物品的 ID 序列。
- 理论优势： 巧妙地利用了组合爆炸原理。假设词汇表中有 1000 个令牌，每个 ID 由 10 个令牌组成，理论上可以表示 $1000^{10} = 10^{30}$ 个独一无二的物品，足以覆盖任何现实世界的物品库。这使得 LLM 在生成时，虽然输出空间看似有限（词汇表大小），但能隐式地覆盖近乎无限的物品。
方法步骤与流程 (Steps & Procedures): 步骤一：ID 创建 (ID Creation) 为了让生成的 ID 不仅唯一，还蕴含推荐所需的“协同信息”（即相似的物品有相似的 ID 结构），论文总结了三种主流的 ID 创建方法：
1. 奇异值分解 (Singular Value Decomposition, SVD):
  - 流程： 首先对用户-物品交互矩阵进行 SVD 分解，得到物品的隐向量。然后对这些向量进行一系列操作（归一化、加噪、量化），将连续的向量转换为整数序列，作为物品 ID。
  - 关键点： 添加噪声可以确保每个 ID 的唯一性。
2. 协同索引 (Collaborative Indexing):
  - 流程： 首先构建一个物品图，边的权重表示物品对在用户历史中共同出现的频率。然后利用谱聚类 (spectral clustering) 算法对图进行递归划分，构建一个层次化的树状结构。物品是树的叶节点。
  - 关键点： 从根节点到每个叶节点的路径（路径上节点的标识符拼接而成）就构成了该物品的唯一 ID。这种方法使得在图上相近的物品（即经常被一起消费的物品）其 ID 具有更长的前缀。
3. 残差量化变分自编码器 (Residual-Quantized Variational AutoEncoder, RQ-VAE):
  - 流程： 首先用一个 LLM 将物品的文本描述编码成一个 embedding。然后，使用 RQ-VAE 对该 embedding 进行多步量化。在每一步，从一个码本 (codebook) 中找到与当前残差向量最接近的码字 (codeword)，其索引就成为 ID 的一个令牌。用原向量减去该码字得到新的残差向量，重复此过程。
  - 关键点： 将连续的语义空间量化为离散的 ID 序列，同时保留了语义信息。
步骤二：任务转换 (Task Transformation) 将各类推荐任务统一为基于 prompt 的生成任务。通用模式是：构建一个描述任务的指令模板，填入用户和物品信息（如 ID、历史记录等），然后让 LLM 自回归地生成答案。

下面是七种典型任务的生成式转换方法：
1. 评分预测 (Rating Prediction):
  - 输入 prompt 示例： $p(u, i) =$ "how would user_1234 rate item_5678"
  - 输出： 一个表示预测评分的字符串，如 "4.12"。
2. Top-N 推荐 (Top-N Recommendation):
  - 输入 prompt 示例 (带候选集): $p(u, T_c) =$ "select one item to recommend for user_1234 from the following candidates: item_6783, ..., item_9312"
  - 输出： 目标物品的 ID，如 "9312"。
3. 序列推荐 (Sequential Recommendation):
  - 输入 prompt 示例： $p(u, I_u) =$ "given user_1234's interaction history item_3456, ..., item_5678, predict the next item"
  - 输出： 预测的下一个物品的 ID，如 "6789"。
4. 可解释推荐 (Explainable Recommendation):
  - 输入 prompt 示例： $p(u, i) =$ "explain to user_1234 why item_5678 is recommended."
  - 输出： 一段自然语言解释，如 "The movie is top-notch."
5. 评论生成 (Review Generation):
  - 输入 prompt 示例： $p(u, i) =$ "generate a review for user_1234 about item_5678."
  - 输出： 一段模拟用户口吻的评论。
6. 评论摘要 (Review Summarization):
  - 输入 prompt 示例： $p(u, i, R) =$ "summarize the following review that user_1234 wrote for item_5678: [review text]..."
  - 输出： 评论的简短摘要，如 "great location"。
7. 对话式推荐 (Conversational Recommendation):
  - 输入 prompt： 将多轮对话历史（标记 USER 和 SYSTEM）作为上下文输入。
  - 输出： 系统在下一轮的回复，可能包含提问、澄清或推荐。
流程对比图

该图像是论文中展示的示意图，比较了传统推荐系统和基于大语言模型（LLM）的生成式推荐的流程。左侧为传统推荐，包含召回、预排序、排序和重排序阶段；右侧为生成式推荐，通过LLM直接生成推荐结果，简化了流程。

上图 Figure 1 直观地展示了生成式推荐的颠覆性：它用一个统一的 LLM 生成模型替代了传统推荐中由多个不同模型组成的、复杂的漏斗式过滤管道。

5. 实验设置 (Experimental Setup)

由于本文是一篇综述，它没有自己的独立实验，而是总结了该领域研究中常见的实验设置。

数据集 (Datasets):
- 生成式推荐研究通常在公开的推荐系统数据集上进行，这些数据集涵盖不同领域，如：
  - 电商领域： Amazon a.co/ryZ16xz
  - 电影领域： MovieLens
  - 新闻领域： MIND
  - 图书领域： Goodreads
- 选择这些数据集是因为它们包含丰富的用户行为（评分、点击）、物品元数据（标题、描述）和用户评论，适合验证各种生成式任务。
评估指标 (Evaluation Metrics): 论文中提及了用于评估不同任务的指标，这里进行详细说明：
- 用于评分预测任务：
  - 均方根误差 (Root Mean Square Error, RMSE):
    1. 概念定义: RMSE 衡量模型预测评分与用户真实评分之间的偏差。它对较大的误差给予更高的权重，因此对异常值比较敏感。值越小，表示模型的预测越准确。
    2. 数学公式: $\text{RMSE} = \sqrt{\frac{1}{|\mathcal{T}|} \sum_{(u,i) \in \mathcal{T}} (\hat{r}_{ui} - r_{ui})^2}$
    3. 符号解释:
      - $\mathcal{T}$ : 测试集中的用户-物品对集合。
      - $|\mathcal{T}|$ : 测试集中评分的总数。
      - $\hat{r}_{ui}$ : 模型预测的用户 $u$ 对物品 $i$ 的评分。
      - $r_{ui}$ : 用户 $u$ 对物品 $i$ 的真实评分。
  - 平均绝对误差 (Mean Absolute Error, MAE):
    1. 概念定义: MAE 衡量预测评分与真实评分之间差值的绝对值的平均数。与 RMSE 相比，它对所有误差给予相同的权重，更能反映预测误差的实际大小。值越小，表示模型预测越准确。
    2. 数学公式: $\text{MAE} = \frac{1}{|\mathcal{T}|} \sum_{(u,i) \in \mathcal{T}} |\hat{r}_{ui} - r_{ui}|$
    3. 符号解释: 符号含义同 RMSE。
- 用于 Top-N/序列推荐任务 (排名导向):
  - 归一化折损累计增益 (Normalized Discounted Cumulative Gain, NDCG):
    1. 概念定义: NDCG 是一个衡量排名质量的指标。它同时考虑了推荐列表中相关物品的命中情况和它们的位置。相关物品排得越靠前，NDCG 值越高。通过归一化处理，使得不同用户或查询之间的得分具有可比性。取值范围为 (0, 1]，值越大越好。
    2. 数学公式: $\text{NDCG@K} = \frac{\text{DCG@K}}{\text{IDCG@K}}, \quad \text{DCG@K} = \sum_{k=1}^{K} \frac{rel_k}{\log_2(k+1)}$
    3. 符号解释:
      - $K$ : 推荐列表的长度。
      - $rel_k$ : 排名在第 $k$ 位的物品的真实相关性得分（在推荐任务中，通常如果物品是用户喜欢的则为 1，否则为 0）。
      - $\text{DCG@K}$ (Discounted Cumulative Gain): 折损累计增益，将每个位置的相关性得分除以一个随位置递增的对数折损项。
      - $\text{IDCG@K}$ (Ideal DCG): 理想情况下的 DCG，即把所有真实相关的物品排在最前面时的 DCG 值，用于归一化。
  - 精确率 (Precision) 和召回率 (Recall):
    1. 概念定义: Precision@K 衡量“推荐的 K 个物品中有多少是用户真正喜欢的”，关注推荐结果的准确性。Recall@K 衡量“用户所有喜欢的物品中有多少被成功推荐出来了”，关注推荐结果的覆盖面。
    2. 数学公式: $\text{Precision@K} = \frac{|\text{RecommendedItems} \cap \text{LikedItems}|}{K}$ $\text{Recall@K} = \frac{|\text{RecommendedItems} \cap \text{LikedItems}|}{|\text{LikedItems}|}$
    3. 符号解释:
      - RecommendedItems: 长度为 $K$ 的推荐列表。
      - LikedItems: 用户在测试集中实际喜欢的物品集合。
- 用于自然语言生成任务 (文本质量):
  - BLEU (Bilingual Evaluation Understudy):
    1. 概念定义: BLEU 最初用于机器翻译，通过计算模型生成的文本与参考文本之间 n-gram（n个连续词）的重合度来评估质量。它倾向于奖励与参考答案在词组上更匹配的句子。
    2. 数学公式: $\text{BLEU} = \text{BP} \cdot \exp\left(\sum_{n=1}^{N} w_n \log p_n\right)$
    3. 符号解释:
      - $p_n$ : 修正后的 n-gram 精确率。
      - $N$ : 考虑的最大 n-gram 长度（通常为 4）。
      - $w_n$ : n-gram 的权重，通常为 $1/N$ 。
      - $\text{BP}$ (Brevity Penalty): 简洁惩罚项。如果生成文本比参考文本短，则会施加惩罚，以避免模型生成过短的句子来刷高精确率。
  - ROUGE (Recall-Oriented Understudy for Gisting Evaluation):
    1. 概念定义: ROUGE 主要用于自动摘要评估，通过计算生成摘要与参考摘要之间的 n-gram 召回率来衡量信息覆盖度。最常用的是 ROUGE-L，它衡量最长公共子序列 (Longest Common Subsequence)。
    2. 数学公式 (ROUGE-N): $\text{ROUGE-N} = \frac{\sum_{S \in \{\text{RefSummaries}\}} \sum_{\text{gram}_n \in S} \text{Count}_{\text{match}}(\text{gram}_n)}{\sum_{S \in \{\text{RefSummaries}\}} \sum_{\text{gram}_n \in S} \text{Count}(\text{gram}_n)}$
    3. 符号解释:
      - $\text{gram}_n$ : 长度为 n 的词组。
      - $\text{Count}_{\text{match}}(\text{gram}_n)$ : 生成摘要和参考摘要中共同出现的 n-gram 数量。
      - $\text{Count}(\text{gram}_n)$ : 参考摘要中 n-gram 的总数。
对比基线 (Baselines):
- 该领域的论文通常会将提出的生成式模型与以下几类基线进行比较：
  - 传统推荐模型： 如基于矩阵分解的 BPR、基于深度学习的 SASRec 等。
  - 基于 LLM 的判别式模型： 即将 LLM 用作特征提取器或排序器的模型。
  - 通用的 LLM： 如直接使用 zero-shot 或 few-shot 能力的 ChatGPT、LLaMA 等。

6. 实验结果与分析 (Results & Analysis)

本文作为综述，并未报告新实验，而是总结了现有研究的发现。以下是对论文中提到的两个核心表格的转录和分析。

核心结果分析 (Core Results Analysis):

转录 - 表格 1: Methods of representing IDs for LLM-based generative recommendation.

Item ID	User ID	Related Work
Token Sequence (e.g., "56 78")	Token Sequence	(Petrov and Macdonald, 2023), TransRec, LC-Rec, (Hua et al., 2023b)
Item Title (e.g., "Dune")	Interaction History (e.g., "Dune", "Her", ...)	P5, VIP5, POD, GPTRec, LLMRec, RecMind, Llama4Rec, etc.
Item Title + Metadata	Metadata (e.g., age)	InteRecAgent, (Zhang et al., 2023b; He et al., 2023)
Embedding ID	Embedding ID	PEPLER (Li et al., 2023a)

分析:

这张表清晰地展示了生成式推荐中 ID 表示的四种主流方法。
方法1 (Token Sequence) 是最具“生成式”原生特质的，它将 ID 彻底文本化，但需要复杂的 ID 创建过程。
方法2 (Item Title) 最为直观，直接利用物品的自然语言名称作为 ID。这种方法的好处是可解释性强，且能利用 LLM 的世界知识。但缺点是可能存在歧义（如苹果公司 vs. 苹果水果）和效率问题（长标题生成耗时）。
方法3 (Metadata) 在标题基础上增加了更多信息，能提供更丰富的上下文。
方法4 (Embedding ID) 是一种混合方法，它虽然保留了传统 ID 的形式，但通过 prompt tuning 等技术将其与 LLM 对齐。

转录 - 表格 2: Seven typical generative recommendation tasks with LLM.

Rating Prediction	Top-N Rec.	Sequential Rec.	Explainable Rec.	Review Gen.	Review Sum.	Conversational Rec.
P5, BookGPT, LLMRec, RecMind, Llama4Rec, etc.	P5, UP5, VIP5, OpenP5, POD, GPTRec, LLMRec, RecMind, NIR, LlamaRec, etc.	P5, UP5, VIP5, OpenP5, POD, GenRec, GPTRec, LMRecSys, PALR, LLM-Rec, etc.	P5, VIP5, POD, PEPLER, M6-Rec, LLMRec, RecMind, Logic-Scaffolding, etc.	(未提及)	P5, LLMRec, RecMind, (Liu et al., 2023a)	M6-Rec, RecLLM, InteRecAgent, PECRS, etc.