本文提出了一种新框架，使用双向 Transformer 进行对比学习，针对顺序推荐中用户行为不是严格的从左到右顺序这一问题进行改进，同时采用滑动窗口技术，结合 Cloze 任务掩码和 Dropout 掩码来生成高质量正样本，并进行多对比学习，通过实验结果表明，相较于传统单一对比学习，该框架表现更优越。
Aug, 2022
利用双向编码表示从历史行为中建模用户的动态演变偏好对于推荐系统至关重要，我们通过使用 Cloze 任务对历史序列项进行联合编码来解决这个问题，并在四个基准数据集上展开广泛实验，结果显示我们的模型在各种顺序模型中表现出色。
Apr, 2019
本研究提出了一种新的预训练双向 Transformer 模型的方法，通过解决一种词重建任务来提高语言理解问题的性能，实验表明，在 GLUE 和 NER 以及组分分析基准测试上获得了大幅度的性能提高，模型的各种因素对于有效的预训练起到了积极的贡献。
Mar, 2019
研究了点击偏见与信任偏见的存在，提出了一种基于仿射修正的估算器，该估算器是目前唯一被证明能够去除二者影响的，并利用半合成实验证明在消除这些偏见的情况下，CLTR 可以更接近最佳排名系统。
Aug, 2020
研究通过双向时间排序转换数据增强和自主知识蒸馏提高顺序推荐中对于短序列的精度
Dec, 2021
提出了一种名为 BSARec 的新方法，利用傅里叶变换注入归纳偏差并整合低频和高频信息以减轻过平滑问题，通过在 6 个基准数据集上进行广泛实验，结果表明该模型在推荐性能方面优于其他 7 种基线方法。
Dec, 2023
本文提出了 Cascade-guided Adversarial training，一种针对顺序推荐模型的新对抗性训练过程，以解决顺序推荐模型的健壮性和过度依赖时间信息的问题。实验结果表明，我们的训练方法在模型排名准确性和模型健壮性方面都优于标准模型训练和通用对抗性训练。
Apr, 2023
开发 Bidirectional Beam Search（BiBS）算法来逼近推理双向神经序列模型中的 1-Best（和 M-Best）解码，并在可视化任务中验证该方法的高效性和效果。
May, 2017
提出使用对比学习来减少低质量文摘的可能性，同时增加黄金文摘的可能性，以解决 Encoder-decoder 模型在训练和推理中的偏差问题，并在实验中证明这种方法有效地提高了最先进模型在不同数据集上的性能。
Aug, 2021
我们提出了一种针对推荐系统中由于观测到的用户 - 项目曝光数据稀疏和嘈杂导致难以估计 IPS 的问题的方法，该方法通过聚类用户来计算更准确的 IPS，从而提高暴露密度，基于现实世界数据集展开广泛的实验以证明方法的有效性。