利用先前训练的大型语言模型，LanSER 通过弱监督学习方法通过推断弱情绪标签实现对未标记数据的利用，并在限制到特定分类方法的情况下使用文本蕴涵方法从自动语音识别中提取的语音转录本选择具有最高蕴涵分数的情绪标签，实验证明，使用这种弱监督方法的大型数据集的预训练模型在标准语音情感识别数据集上的调整后表现优于其他基线模型，并显示了改进的标签效率，尽管这些模型仅以文本为基础进行了预训练，但我们证明了得到的表示形式似乎对语音的韵律内容进行了建模。

Sep, 2023

采用预训练语言模型的语义理解能力，提出了一种新的序列推荐策略 LANCER，以弥补先前序列建模方法对上下文信息的不足，从而在推荐系统中生成更加人性化的个性化推荐。经过在多个基准数据集上的实验证明，我们的方法有效，具有良好的结果，并对我们的模型在序列推荐任务中的影响提供了有价值的见解。此外，我们的实验代码是公开可用的。

Sep, 2023

LLM-KERec 利用大型语言模型捕捉用户意图转变，适应新项目，并提高在不断发展的电子商务领域中的推荐效率，通过整合互补知识解决传统推荐系统的局限性。

Feb, 2024

本文提出了一种名为 PALR 的新框架，旨在将用户历史行为与大型语言模型相结合，生成用户喜欢的商品。实验结果表明，与现有方法相比，我们的解决方案在各种连续推荐任务上表现优异。

May, 2023

研究通过引入大型语言模型增强顺序推荐系统的性能，以应对长尾用户和长尾商品的挑战，并提出了融合语义信息和协同信号的双视图建模方法来解决这些问题。同时，通过使用检索增强的自蒸馏技术，对用户偏好表示进行改进。实验证明，所提出的增强框架相比现有方法表现更优。

May, 2024

我们引入了 SONAR，一个新的多语言和多模态的固定大小句子嵌入空间，在 xsim 和 xsim++ 多语言相似性搜索任务中，我们的单一文本编码器涵盖 200 种语言，表现明显优于现有的句子嵌入如 LASER3 和 LabSE。我们还提供了一个文本解码器，涵盖 200 种语言，可以执行文本到文本和语音到文本的机器翻译，包括零射语言和模态组合。尽管固定大小的瓶颈表示，我们的文本到文本结果与最先进的 NLLB~1B 模型相媲美，我们的零射语音到文本翻译结果与强大的有监督基线如 Whisper 相比也表现得出色。

Aug, 2023

我们提出了一种名为 ReLLa 的新框架，即检索增强的大型语言模型，用于零样本和少样本推荐任务，通过语义用户行为检索和检索增强指导调优技术，提高了大型语言模型在推荐系统中的推荐性能和对用户行为序列的理解能力。

Aug, 2023

为了提高 NLP 任务中的语言理解能力，在考虑了文本的语言学知识（例如词性标注和情感极性）的基础上，提出了一种新的语言表示模型 SentiLARE，并使用标签感知掩蔽语言模型进行预训练，实验结果表明 SentiLARE 在各种情感分析任务上取得了最新的最佳性能。

Nov, 2019

本文提出了一种名为 LoID 的 “插件式” 语义知识传递方法，其中包括两个主要组成部分：基于 LoRA 的大型语言模型预训练以提取多方面的语义信息；基于 ID 的对比目标以对齐它们的特征空间。我们在真实数据集上使用 SOTA 基线进行了大量实验证明了我们的方法 LoID 的显著改进。

Mar, 2024

在线视频平台中，评论已经成为观看视频时不可或缺的一部分，我们提出了一种名为 LSVCR 的新型推荐方法，通过利用用户与视频和评论的互动历史，联合进行个性化视频和评论推荐。

Mar, 2024