面向电子商务的可解释图模型和语言模型集成提升搜索相关性

Mar, 2024

面向电子商务的可解释图模型和语言模型集成提升搜索相关性

An Interpretable Ensemble of Graph and Language Models for Improving Search Relevance in E-Commerce

Nurendra Choudhary, Edward W Huang, Karthik Subbian, Chandan K. Reddy

TL;DR在电子商务领域中，搜索相关性问题具有挑战性，因为它涉及理解用户的简短微妙查询的意图，并将其与目录中的适当产品匹配。为了弥合研究和实际采用这些技术之间的差距，我们提出了 Plug and Play Graph LAnguage Model（PP-GLAM），一个可解释的插拔模型集合。通过均匀的数据处理流程和增加的解释度量，我们展示了 PP-GLAM 在真实多语言、多区域电子商务数据集上优于几种最先进的基准模型及专有模型。为了促进更好的模型可理解性和采用度，我们还提供了模型的解释性和计算复杂性分析，并提供了实际实施的部署策略的公共代码库。

Abstract

The problem of search relevance in the E-commerce domain is a challenging one since it involves understanding the intent of a user's short nuanced query and matching it with the appropriate products in the catalog. This problem has traditionally been addressed using →

search relevance language models graph neural networks interpretability plug and play graph language model

发现论文，激发创造

图形语言模型

图形语言模型（GLM）集成了线性文本模型（LM）和图神经网络（GNN）的优点，同时减轻它们的弱点，在有监督和零样本情况下，在概念网络的关系分类任务上超过了基于 LM 和 GNN 的基线。

Jan, 2024

知识图谱补全模型是少样本学习器：基于 LLMs 的电子商务关系标注的实证研究

本文通过实证研究发现，大型语言模型在电商知识图谱中的关系标注任务中具有强大的学习能力和预测能力，相比于现有的知识图谱补全模型在关系标注任务上具有更高的竞争力，足以替代人工标注。

May, 2023

大型语言模型与机器学习在电子商务推荐中的新兴协同效应

电子商务和网络应用的蓬勃发展使得推荐系统成为我们日常生活中重要的一部分，但是现有基于深度神经网络的方法在理解用户兴趣、捕捉文本信息以及推广到不同场景等方面仍存在限制。近期的研究借助大型语言模型的崛起旨在改进推荐系统，本文系统回顾了已有的大型语言模型驱动的推荐系统，介绍了使用大型语言模型作为特征编码器学习用户和物品表示的方法以及在预训练、微调和提示等三个范式下的最新进展，并对这一新兴领域的未来方向进行了全面的讨论。

Mar, 2024

GLaM: 通过邻域分区和生成子图编码对领域知识图的大型语言模型进行微调

我们介绍了一种用于开发图形对齐的语言模型（GLaM）的微调框架，该框架将知识图形转化为具有标签的问题 - 答案对的替代文本表示。我们证明，以特定基于图形的知识为基础的模型具有更强的结构化推理能力。我们的方法利用大型语言模型的生成能力创建数据集，并提出了一种效率高于检索增强型生成方法的替代方法。

Feb, 2024

通过图感知学习增强基于语言模型的协同语义推荐

通过使用充满协作语义的交互图，我们提出了一种名为 GAL-Rec 的方法，通过模仿图神经网络（GNNs）的意图来提高语言模型驱动的推荐模型对用户 - 物品协作语义的理解能力，从而充分利用大型语言模型的学习能力，独立解决推荐系统中的复杂图形，实验证明 GAL-Rec 显著增强了协作语义的理解能力，并提高了推荐性能。

Jun, 2024

电商搜索中基于图形的多语言产品检索

本文介绍了一种通用的端到端多语言检索系统，基于图注意力和转换器的多语言语言模型，旨在处理全球电子商务业务中的产品检索，离线实验结果表明，该算法平均超过最先进的基线的 35 % 的召回率和 25% 的平均均方误差。

May, 2021

自然语言就是图的应有之义

我们提出了 InstructGLM（指导调整的图语言模型），基于自然语言说明系统地设计高度可扩展的提示，使用自然语言描述图的几何结构和节点特征，通过指导调优语言模型以一种生成方式在图上执行学习和推理，超过了所有竞争的 GNN 基准数据集，证明了我们方法的有效性，并为将生成语言模型替代 GNN 作为图机器学习的基础模型提供了启示。

Aug, 2023

大型语言模型的图神经启动

提出了图神经传递（GNP）方法，通过利用知识图谱，辅助预训练大型语言模型（LLMs）学习有益的知识，具有在常识和生物医学推理任务中的优越性能。

Sep, 2023

Web 搜索中的图增强点击模型

本文提出了一种基于神经网络和图增强的点击模型 (GraphCM)，通过在构造的同质图中提取查询和文档之间的信息，分别对吸引力评估器和考试预测器进行建模，通过组合功能将考试概率和吸引力评分融合到点击预测中，综合实验结果表明其在处理数据稀疏性和冷启动问题方面具有优越性能。

Jun, 2022

基于大规模语言模型的不确定性感知可解释推荐

为了提高用户满意度和建立信任，推荐系统内提供解释尤为重要，特别是对为用户定制的推荐物品进行解释。在这个研究领域中，主要方法是生成基于文本的解释，主要侧重于应用大型语言模型（LLMs）。然而，由于时间限制和计算资源限制，对于可解释性推荐来说，细化 LLMs 的工作并不可行。作为替代方案，当前的方法是训练提示而不是 LLMs。在这项研究中，我们开发了一个模型，利用用户和项目输入的 ID 向量作为 GPT-2 的提示。我们在多任务学习框架内使用联合训练机制来优化推荐任务和解释任务。这种策略能更有效地探索用户的兴趣，提高推荐的效果和用户满意度。通过实验，在 Yelp、TripAdvisor 和 Amazon 数据集上，我们的方法在解释能力评估指标上分别达到 1.59 DIV、0.57 USR 和 0.41 FCR，相比于四种现有技术，表现出卓越性能。此外，我们发现所提出的模型能够确保在这三个公共数据集上文本质量的稳定。

Jan, 2024