基于多层感知器 (MLP) 的异构顺序推荐方法 (BMLP) 通过建模多种行为类型和转换关系的异构兴趣知觉模块 (HIP) 以及自适应融合辅助行为子序列以捕捉用户购买意图的购买意图知觉模块 (PIP)，相比主要的序列模型，在准确性方面具有竞争优势并具有简单和高效的独特优势，广泛实验表明 BMLP 在四个公共数据集上显著改进了现有算法，而其纯 MLP 架构导致线性时间复杂度。

Feb, 2024

模型驱动的强化学习中，通过使用多时间步目标训练一步预测模型来解决一步预测误差在轨迹增长时的累积问题，实验证明指数衰减权重能显著提高长期视野得分，尤其在嘈杂环境下，展示了该方法在实际应用中的潜力。

Oct, 2023

本文介绍了如何使用序列建模来解决强化学习问题，使用 Transformer 架构来建模轨迹上的分布，并改造了波束搜索作为规划算法，在长时间序列预测、模仿学习、目标条件下的强化学习和离线强化学习等方面展示了该方法的灵活性和高效性，同时将该方法与基于模型的算法相结合，使其在稀疏奖励、长时间序列任务中表现为最先进的计划器。

Jun, 2021

本文研究了将实时递归学习和策略梯度相结合的演员 - 评论员方法在 DMLab、ProcGen 和 Atari-2600 环境中的应用，结果表明，在 DMLab 记忆任务中，我们的系统相比于训练了 10 B 帧的 IMPALA 和 R2D2 基线的系统，只需训练不到 1.2 B 个环境帧就能够达到很好的性能表现。

May, 2023

该研究提出了一种名为 CA-RNN 的上下文感知循环神经网络模型，用于建模用户的行为模式，其采用自适应的上下文特定输入矩阵和上下文特定转移矩阵来捕捉事件发生时的外部环境和历史时序之间的转换，实验证明该模型在 Taobao 数据集和 Movielens-1M 数据集上比现有的序列推荐和上下文感知推荐方法都有明显改进。

Sep, 2016

LL-RNN 是递归神经网络的扩展，用对数线性输出层替换 softmax 输出层，允许模型利用先验知识进行语言建模，实验证明相对于基线 RNN，能有效降低困惑度。

Jul, 2016

本文研究了多关系链接预测和知识图谱完成的双线性嵌入模型，探讨了文献中各种双线性模型的表达能力和相互关系，证明了多个嵌入约束条件的双线性模型可以表示每个关系集合，并提出了多个嵌入关系级联模型达到最先进的预测性能的证据。

Sep, 2017

我们提出了一种新颖的强化学习算法，名为实时循环强化学习 (RTRRL)，通过利用随机反馈局部在线学习 (RFLO) 近似实时递归学习 (RTRL) 来计算循环神经网络参数的梯度，并结合具有资格迹的时序差分强化学习 (TD (λ))，能在部分可观测马尔可夫决策过程 (POMDPs) 中解决离散和连续控制任务，达到生物可行并超越了传统的时间反向传播算法 (BPTT)。该方法模拟哺乳动物大脑奖励途径的生物神经网络进行学习。

Nov, 2023

此研究旨在将异构的用户行为与社会影响结合起来进行行为预测，并使用包括 LSTM 变体、多面向关系建模机制、多面向关注机制、社会行为图的无监督学习及基于残差学习生成高阶交叉特征的方法进行探讨，定量和定性实验表明该模型的有效性。

Jul, 2022

本文提出采用多行为互动模式进行时间变化的用户偏好建模，通过提出的 Temporal Graph Transformer 模型，能够更好地学习不同行为间的相关性，有效解决单一行为矩阵稀疏和数据不足等问题。

Jun, 2022