通过将用户历史数据嵌入模型中，并用其作为软提示，我们展示了一种在处理较长历史文本时具有优势的方法，可用于提高推荐系统的效果。

Jan, 2024

该研究回顾了最近在社交媒体用户的表征学习领域的进展，并提供了从异构用户数据（例如，将社交媒体文本与图像相结合来学习统一用户表征）中学习统一用户嵌入的典型方法，该技术对于创建高性能的基于社交媒体的人类特征和行为模型至关重要。

Jun, 2019

本文针对搜索个性化提出一种新的嵌入式方法，利用用户的专业兴趣空间对用户进行嵌入和学习，实现对用户兴趣的表达和搜索个性化，并在商业网页搜索引擎的查询日志实验中，证明本方法的性能比其他强基线模型更好。

Dec, 2016

我们提出一个方法，通过使用多模态用户活动的序列基本特征学习模块进行异步学习，可以为每天数十亿用户学习高逼真的用户嵌入。这些异步学习的用户表示嵌入（ALURE）通过图学习转化为用户相似性图，并与用户实时活动相结合，为整个广告发布系统检索与之高度相关的广告候选项。在线下和在线实验中，我们的方法显示出显著的增益。

Jun, 2024

利用用户嵌入来上下文化大型语言模型，实现显著性能提升。

Feb, 2024

使用移动应用的用户行为数据作为指标实现用户建模，通过 AutoEncoder-coupled Transformer 网络解决手工特征工程带来的人力成本问题，并展示了该网络在多个下游应用实验中嵌入用户的有效性。

May, 2020

本研究提出了一种用户建模方法，通过概率用户模型来推断用户的知识，从而提高交互式机器学习的性能，并避免过度拟合的问题。

Oct, 2017

本文提出了一种基于神经网络和 BERT 模型的用户嵌入系统 ——Author2Vec，其通过使用 BERT 模型中的句子嵌入技术，结合新颖的无监督预训练目标，即作者分类，以生成更好的用户嵌入表示。该系统在 Reddit 平台的 1 万个用户的文章数据上进行预训练，并在抑郁症与人格分类等两个用户分类基准中进行了分析和评估，结果表明其性能优于传统的基于计数和基于预测的方法。Author2Vec 成功地编码了有用的用户属性，并在下游分类任务中表现出良好的性能，无需进一步的微调。

Mar, 2020

本文提出了一种从用户对话历史中自动学习隐式用户配置文件以构建个性化聊天机器人的方法，采用 Transformer 进行语言理解训练，并通过建立历史帖子 - 响应对的键值存储网络来建立动态的贴子感知用户配置文件。同时，采用个性化解码器融合两种解码策略，包括生成通用词汇表中的单词和从用户个性化词汇表中复制一个单词。实验结果表明，该模型较现有方法具有显著的改进。

Aug, 2021

JODIE 是一种耦合的递归模型，用于共同学习用户和物品的动态嵌入以预测未来互动。在四个真实世界数据集上的六个实验中，JODIE 在未来交互预测和状态变化预测任务中优于六个最先进算法，且高度可扩展，比可比模型快 9.2 倍。

Dec, 2018