- 个性化体裁:通过合作努力实现高效个性化大型语言模型
个性化大型语言模型(LLMs)旨在根据个人用户的偏好定制交互、内容和推荐。我们引入了一种名为个性化碎片(Per-Pcs)的框架,该框架允许用户安全地共享和组装个性化的参数高效微调(PEFT)。Per-Pcs 通过选择共享者,将其 PEFT - 用户建模与用户画像:综述
这篇综述论文详细论述了用户建模和个人资料研究领域的现状、发展趋势和未来发展方向,并提出了一个包含最新动态的新颖分类系统。研究表明,用户建模方法正在向更复杂的个人资料建立方法转变,强调隐式数据收集、多行为建模以及图数据结构的整合。此外,研究还 - 大型语言模型时代的用户建模:当前研究与未来方向
用户建模旨在从用户数据中发现模式或学习有关特定用户的特征,如个人资料、偏好和个性。该研究总结了关于如何以及为何使用大型语言模型(LLMs)进行用户建模和理解用户生成内容的现有研究,然后回顾了将 LLMs 与文本和基于图的方法整合的几种用户建 - AdaptSSR:使用自适应自监督排名增强预训练用户模型
通过利用数据增强技术,我们提出了一种新的预训练任务 —— 自适应自监督排序(Augmentation-Adaptive Self-Supervised Ranking,简称 AdaptSSR),来解决用户建模中的稀疏数据问题,该方法通过训练 - KDD任务关系感知的连续用户表示学习
本文提出了一种名为 TERACON 的新型连续用户表示学习方法,它的学习能力随着学习任务的增加而不受限制,同时捕捉任务之间的关系,通过任务嵌入生成任务特定的软掩码,利用伪标签策略和知识保留模块成功缓解了连续学习的问题。
- AAAI时间间隔感知数据增强优化均匀序列:用于序列推荐
该论文提出了一种基于时间间隔改进的数据增广方法,提高了串行推荐的性能表现,并在四个真实数据集上验证了该方法相较于其他 11 种竞争方法显著更好的性能表现。
- 复杂问题解决的知识追踪:基于细粒度排名的张量分解
本文提出了一种新的学生知识追踪方法 GRATE,该方法可动态选择可聚合的学生尝试,从而预测学生在问题中的表现和发现其中呈现的概念;与现有研究相比,该方法能够更好地预测学生表现,消除不必要的波动并发现问题中的复杂潜在概念。
- VLSNR: 基于视觉语言协调和时序感知的新闻推荐
提出了一种视觉 - 语言坐标时间序列新闻推荐方法,基于预训练的多模型编码器,应用自注意力网络学习时间顺序。通过构建的大规模多模式新闻推荐数据集 V-MIND 验证了该方法的优越性。
- SimCURL: 从指令序列中学习简单对比用户表示
SimCURL 是一种简单而有效的对比自我监督深度学习框架,用于从未标记的命令序列中学习用户表示。我们将其应用于半十亿命令的真实世界数据集上,相较于现有方法,在经验和专业分类等下游任务中显著提升。
- 第四届在线推荐系统和用户建模研讨会论文集 -- ORSUM 2021
探索在线服务的动态特性,通过增量算法在数据流中进行用户建模和个性化推荐。
- UserBERT:对比用户模型预训练
本文提出了一种名为 UserBERT 的对比式用户模型预训练方法,将两种自监督任务应用于未标记的用户行为数据的用户模型预训练中,并使用中等难度的负采样框架以更好地进行对比式预训练。实验结果表明,UserBERT 能有效地改善各种用户模型。
- 生成对抗奖励学习用于泛化行为倾向推断
提出了一种基于生成式逆强化学习的用户行为偏好建模方法,该方法可以自动学习用户的行为奖励函数,并通过辨别式演员 - 评论家网络和 Wasserstein 生成对抗网络进行建模和解释,实验证明该方法在交通信号控制、在线推荐系统和注视路径预测等场 - WWWFeedRec: 利用各种用户反馈的新闻推荐
为了提高新闻推荐的用户兴趣模型和模型训练的效果,我们提出了一种利用各种用户反馈的统一用户建模框架,并采用强到弱的注意力网络来提炼正负用户兴趣,以及采用多反馈模型训练框架来学习关注度感知的新闻推荐模型。
- AAAI利用行为一致性实现通用用户表示
该研究提出一种基于自监督学习的用户建模网络 SUMN,该网络能够将行为数据编码成通用的用户表示形式,进而实现个性化服务推荐和用户画像预测。实验表明该方法优于现有的无监督表示方法,并且能够与监督方法竞争。
- EMNLP通过自我监督从未标注的用户行为中预训练用户模型的 PTUM
本文提出了一种基于自监督学习的用户模型预训练方法,包括屏蔽行为预测和 $K$ 步预测两个任务,通过对大规模未标注用户行为数据进行预训练,并在下游任务中微调,获得了更好的效果。
- KDD基于移动应用使用的通用用户嵌入
使用移动应用的用户行为数据作为指标实现用户建模,通过 AutoEncoder-coupled Transformer 网络解决手工特征工程带来的人力成本问题,并展示了该网络在多个下游应用实验中嵌入用户的有效性。
- AAAI评估商用对话系统对老年用户的经验:对未来设计和开发的影响
本文探讨了针对年龄在 50 岁及以上的用户进行的对话系统用户研究,发现了老年用户在与这些系统交互时的共同偏好、使用案例和特征差距,并提出了一个新的、健壮的用户建模框架,以解决老年用户面临的常见问题,并推广到更广泛的用户群体。
- WSDM融合多方面的交易数据进行用户建模和人口统计预测
该研究提出了一种基于嵌入的方法来综合多方面的交易数据序列和辅助关系表,以实现更好的用户建模和人口统计预测。
- 利用时间和用户上下文改进推文表达
本文提出了一种新颖的表征学习模型,通过系统性地利用用户 Twitter 时间轴上的文本 “上下文”,并考虑用户背景知识如写作风格和写作主题总结,从而准确地计算推文的语义表示,并通过实验证明,在预测用户配偶、教育和工作等人物属性时,该模型优于 - WWW结合访问日志、页面内容和语义的用户建模
本文探讨了一种用户建模方法,该方法基于大型网站的访问日志和访问页面的内容,结合网页、用户和用户访问网站的语义信息。该方法对应于对大量用户的建模,并使用不同的数据源表示每个用户的特征, 在提供的目标用户子集特征的基础上进一步实现用户建模。该方