Jan, 2024

基于大规模语言模型的不确定性感知可解释推荐

PDF
TL;DR为了提高用户满意度和建立信任，推荐系统内提供解释尤为重要，特别是对为用户定制的推荐物品进行解释。在这个研究领域中，主要方法是生成基于文本的解释，主要侧重于应用大型语言模型（LLMs）。然而，由于时间限制和计算资源限制，对于可解释性推荐来说，细化 LLMs 的工作并不可行。作为替代方案，当前的方法是训练提示而不是 LLMs。在这项研究中，我们开发了一个模型，利用用户和项目输入的 ID 向量作为 GPT-2 的提示。我们在多任务学习框架内使用联合训练机制来优化推荐任务和解释任务。这种策略能更有效地探索用户的兴趣，提高推荐的效果和用户满意度。通过实验，在 Yelp、TripAdvisor 和 Amazon 数据集上，我们的方法在解释能力评估指标上分别达到 1.59 DIV、0.57 USR 和 0.41 FCR，相比于四种现有技术，表现出卓越性能。此外，我们发现所提出的模型能够确保在这三个公共数据集上文本质量的稳定。
recommendation systemexplanationslarge language models (llms)gpt-2multi-task learning
发现论文，激发创造
  • 发掘大型语言模型在可解释推荐中的潜力

    通过使用大型语言模型 (LLMs)，我们提出了简单而有效的两阶段解释性推荐框架 LLMXRec，旨在进一步提高解释质量。与大多数现有的基于 LLM 的推荐系统不同，LLMXRec 侧重于先前推荐模型与基于 LLM 的解释生成器之间的紧密协作。通过采用一些关键的微调技术，包括参数高效的指导微调和个性化提示技术，我们能够生成可控且流畅的解释，以实现解释推荐的目标。我们提供了三个不同的角度来评估解释的有效性，并在几个基准推荐模型和公开可用的数据集上进行了大量实验。实验证据不仅在有效性和效率方面取得了积极的结果，还揭示了一些以前未知的结果。为了方便在这个领域的进一步探索，我们开源了完整的代码和详细的原始结果。

    Dec, 2023

  • 推荐作为指令跟随： 一个拥有大型语言模型的推荐方法

    该论文提出了一种以自然语言为指令的方法来开发推荐模型，这种方法可以更好地适应用户需求，实现个性化推荐，并在真实数据集上比多个竞争基线模型表现更优。

    May, 2023

  • 个性化和可解释推荐的大型语言模型调查

    最近几年，推荐系统 (Recommender Systems) 在自然语言处理 (Natural Language Processing) 领域迎来了巨大的变革，得益于大型语言模型 (Large Language Models) 的出现。这些模型，如 OpenAI 的 GPT-3.5/4 和 Meta 的 Llama，在理解和生成类似人类的文本方面展示了前所未有的能力，从而在个性化和可解释性推荐领域引发了范式转变，因为大型语言模型提供了处理大量文本数据以增强用户体验的多功能工具集。为了全面了解现有的基于大型语言模型的推荐系统，本综述旨在分析推荐系统如何从大型语言模型的方法中受益。此外，我们还描述了个性化解释生成 (Personalized Explanation Generating) 任务中的主要挑战，包括冷启动问题、公平性和偏见问题。

    Nov, 2023

  • 可解释推荐的个性化提示学习

    该研究提出了一种利用预训练模型和新型 prompt learning 方法实现基于用户可解释性推荐的方法，并与传统方法相比，有着更好的表现。

    Feb, 2022

  • 基于知识的自然语言推荐解释

    通过使用知识图谱方法和协同过滤技术，我们的研究提出了一种可以生成客观描述的推荐解释的方法，该方法结合了用户购买历史和物品特征，为用户提供与其偏好相匹配的个性化解释，实验结果表明该方法在自然语言可解释推荐方面优于现有的最新模型。

    Aug, 2023

  • RecExplainer: 为推荐模型可解释性而对齐大型语言模型

    使用大型语言模型作为替代模型，模仿和理解目标推荐系统模型的行为，利用三种对齐方法，即行为对齐、意图对齐和混合对齐，在语言和潜在空间进行对齐训练，从而实现了高度可信的推荐解释生成。

    Nov, 2023

  • 自然语言解释的自动生成

    本文提出了一种基于神经网络的方法，使用用户对不同商品的评分来预测用户如何描述该商品，并生成自然语言解释，通过实验验证模型可以生成接近真实用户写的评论。

    Jul, 2017

  • 大型语言模型作为推荐解释的评估器

    使用 LLMs 作为评估者能够提供准确、可重复和经济高效的解决方案，用于评估推荐解释文本的质量。

    Jun, 2024

  • Few-shot 提示在文本推理中解释的不可靠性

    本文研究了将 GPT-3 等大型语言模型与说明相结合是否能够提高上下文学习效果，发现对于涉及文本推理的自然语言推理和问答任务，使用不同样式的说明对 OPT、GPT-3（davinci）和 InstructGPT（text-davinci-001）等四个 LLM 的性能仅会带来小至中等的准确性提高，而 text-davinci-002 能够带来更实质性的提高，并且 LLM 产生的说明可能不支持、甚至与模型预测不一致，但这些说明仍有助于验证模型的预测，在此观察基础上，文章通过训练校准器使用自动提取的评分评估说明的可靠性，从而在全部数据集上实现后处理性能的提高。

    May, 2022

  • 利用大型语言模型增强旅行选择建模：一种提示学习方法

    通过引入一种基于 Prompt Learning 的大型语言模型 (LLM) 框架，本文改进了个体选择预测的准确性，并提供了明确的解释。在旅行选择分析领域，LLM 显著优于深度学习方法和离散选择模型，同时提供了个体层面的可理解和明确的解释。

    Jun, 2024