循环神经滤波器：学习独立的贝叶斯滤波步骤进行时间序列预测

Jan, 2019

循环神经滤波器：学习独立的贝叶斯滤波步骤进行时间序列预测

Recurrent Neural Filters: Learning Independent Bayesian Filtering Steps for Time Series Prediction

Bryan Lim, Stefan Zohren, Stephen Roberts

TL;DR本文介绍了一种新的循环自编码器结构 —— 递归神经过滤器（RNF），通过一系列编码器和解码器学习 Bayesian 滤波每一步的不同表示，应用于三个实际时间序列数据集上，证明了这种解耦表示不仅提高了一步预测的准确性，同时提供了可信的不确定度估计，而且通过分离编码器阶段促进了多步预测。

Abstract

Despite the recent popularity of deep generative state space models, few comparisons have been made between network architectures and the inference steps of the bayesian filtering framework -- with most models simultaneously approximating both state transition and update steps with a s

deep generative state space model bayesian filtering framework recurrent neural filter one-step-ahead forecast multistep prediction

发现论文，激发创造

高维深度特征空间中因式分解推断的递推卡尔曼网络

本文提出了一种名为 RKN 的循环卡尔曼网络，它可以在不使用其他近似方法（如变分推断）的情况下，使用反向传播直接学习高维因式分解潜在状态表示，从而具有能够精确估计不确定性的能力，并在图像插值任务中优于多种生成模型。

May, 2019

预测状态循环神经网络

我们提出了一种新的模型，Predictive State Recurrent Neural Networks (PSRNNs)，用于过滤和预测动态系统中的信息。我们使用了循环神经网络 (RNNs) 和预测状态表示 (PSRs) 的见解，并继承了这两种模型的优势。我们表明，我们的模型可以通过联合反向传播算法和基于统计一致性的学习算法 Two-Stage Regression (2SR) 的初始化来有效地学习和因数分解模型大小，以减少模型计算时间和提高模型性能。通过实验，我们证明了在所有情况下，PSRNNs 比其他常见的动态系统建模方法都有更好的表现。

May, 2017

粒子滤波循环神经网络

本研究介绍了一种新的递归神经网络的方法，即基于粒子滤波的递归神经网络，它将不确定性建模为一组粒子，并提出了一种全可微分的粒子滤波算法来更新其内部状态分布，实验证明该方法在真实世界序列预测方面优于标准门控递归神经网络。

May, 2019

贝叶斯递归神经网络

使用变分贝叶斯方法和后向传播裁剪算法等对循环神经网络进行训练，大幅降低了参数数量和提高了贝叶斯逼近性能。在语言建模和图像描述等任务中，贝叶斯循环神经网络优于传统循环神经网络。

Apr, 2017

具有随机层的序列神经模型

本文介绍了一种新的神经网络模型 —— 随机循环神经网络，该模型能高效地传播潜在状态的不确定性来构建序列神经生成模型，并在语音和音乐建模方面取得了比同类方法更好的结果。

May, 2016

如何训练可微分滤波器

本文研究不同类型的过滤算法，特别是可微分的过滤算法对于机器人应用中基于状态估计的决策制定和任务执行的优势，并比较了这些不同方法的表现。

Dec, 2020

用于视频未来预测的折叠循环神经网络

本研究介绍了双射门控循环单元，为计算机视觉中未来视频预测问题提供了一种有效的方法，能够使编码 / 解码器之间的状态共享并减少计算成本，达到了与最优方法相当的性能。

Dec, 2017

透过连续粒子滤波在循环神经网络中进行隐状态近似

本文介绍一种基于历史数据，使用逐步加粗的粒子来近似表示潜在状态分布的序列预测模型，利用连续可微分的方案，根据贝叶斯规则，自适应提取有价值的信息和更新潜在状态，并在预测任务中取得了良好的效果。

Dec, 2022

多目标滤波的深度循环神经网络

本文提出了使用自适应学习框架解决多目标过滤的固定运动和测量模型问题，通过使用随机有限集术语定义目标元组以及利用具有长短期记忆结构的递归神经网络，提出了一种与预测轨迹元组兼容的新型数据关联算法，使得能够更新被遮挡的目标以及分配目标的出生、存活和死亡。该算法在一个常用的过滤器模拟场景中进行了评估，结果非常有前途。

Jun, 2018

循环事件网络：在时间知识图谱上进行自回归结构推断

本篇论文提出了一种使用循环事件网络的方法，针对具有时间戳的知识图谱中的推理问题，通过对已知事实的模型化预测未来事件，通过对未来时间戳上的链接预测实现多步推理。

Apr, 2019