Jan, 2024

面向异构时间序列插值的不确定性感知深度注意力循环神经网络

PDF
TL;DR通过采用自注意力机制和有效的残差组件，我们提出了深度注意力循环填补（DEARI）方法，同时估计异质多元时间序列中的缺失值及其相关的不确定性，并通过一种新颖的贝叶斯边缘化策略将其转化为贝叶斯神经网络，以产生随机 DEARI，并在真实世界数据集上的不同任务中超越了 SOTA，包括空气质量控制、医疗保健和交通。
missingnessmultivariate time seriesrecurrent network imputationdeep architecturesbayesian neural network
发现论文，激发创造
  • NAOMI: 非自回归多分辨率序列插补

    本文提出了一种新颖的深度生成模型：Non-AutOregressive Multiresolution Imputation（NAOMI），利用空时数据的多分辨率结构，采用分治策略从粗到细粒度递归解码，通过对抗训练进一步提高模型性能，能有效地处理长序列数据的缺失问题。在稳定和随机动力学系统的基准数据集上评估表明，与自回归模型相比，该模型在缺失值插补的准确性和长序列的泛化性能方面均取得了显著改进（减少平均预测误差达 60%）。

    Jan, 2019

  • 用于多变量时间序列的循环神经网络，含缺失值

    本研究提出一种基于 GRU 的深度学习模型 GRU-D，利用缺失模式中的缺失值及其时间间隔，成功地捕获时间序列中的长期时间依赖关系，提高了时间序列分类任务的预测性能，并为缺失值在时间序列分析中的更好理解和利用提供了有用的见解。

    Jun, 2016

  • 不规则采样时间序列的多时间注意力网络

    本篇论文针对电子健康档案中所涉及的稀疏、不规则采样、多变量的生理时序数据提出一种名为 Multi-Time Attention Networks 的多时间注意网络的深度学习框架，并使用多个数据集进行内插和分类任务的性能研究，结果表明该框架的性能优于许多基线和最近提出的模型，同时提供了比当前最先进方法更快的训练速度。

    Jan, 2021

  • 连续时间自编码器用于正常和非正常时间序列填补

    基于连续时间自回归神经网络（NCDEs）的连续时间自编码器（CTA）方法，在时间序列输入中表现出最佳的填补性能。

    Dec, 2023

  • 深度集合遇见分位回归：面向时间序列的不确定性感知填充

    我们提出了一种非生成时间序列插补方法，该方法通过深度集成与分位数回归相结合，在计算上更高效，并能够准确插补时间序列数据并估计不确定性。

    Dec, 2023

  • 医疗时间序列的知识增强条件插补

    这项研究提出了一种新颖的方法来解决多元时间序列中缺失数据的挑战，特别关注医疗数据的复杂性。我们的条件自注意力填补模型（CSAI），基于变换器框架，引入了针对医学时间序列数据的条件隐藏状态初始化。此方法与传统填补技术不同之处在于专门针对医疗数据集中经常被忽视的缺失数据分布的不平衡进行调整。通过整合先进的知识嵌入和非均匀掩蔽策略，CSAI 能够灵活调整至电子病历中缺失数据的独特模式。

    Dec, 2023

  • MADS：用于时间序列插值的调制自编码 SIREN

    本研究基于隐式神经表示提出了一种新型自编码框架 MADS，用于时间序列插值，该模型在人类活动和空气质量数据集上表现优异，优于现有的时间序列插补算法，平均排名仅次于理论最优模型。

    Jul, 2023

  • 深度自回归循环网络的概率预测

    该论文提出 DeepAR 方法，通过基于大量相关时间序列训练自回归循环网络模型，实现准确的概率预测，并在多个真实预测数据集上展示了与现有方法相比约 15％的准确度提升。

    Apr, 2017

  • CDSA: 跨维度自注意力用于多元、地理标记时间序列插补

    本论文利用自我关注机制来处理多元、地理标记的时间序列数据中的缺失值，并通过跨维度自我关注 (CDSA) 的新方法，提出了一种具有低计算复杂度的序列建模算法，超越了现有的标准预测和补全方法。

    May, 2019

  • 基于神经 SDE-RNN 的不确定性量化通用框架

    提出一个基于循环神经网络和神经随机微分方程的框架，以处理不规则采样下时间序列插补中的不确定性量化问题，并通过解析表达式量化和传播时刻间认知和随机不确定性，该方法在 IEEE 37 总线测试分布系统上优于现有的时序数据插值不确定性量化方法。

    Jun, 2023