Jul, 2023

多视角自监督学习用于多变量多通道时间序列

PDF
TL;DR通过在多通道生物医学时间序列数据上进行自我监督对比学习，使用消息传递神经网络提取跨通道的单一表示，并结合 TS2Vec 损失函数，我们的方法在大多数设置中优于其他方法。
multivariate biomedical time series dataself-supervised contrastive learninginput channelsmessage passing neural networkts2vec loss
发现论文，激发创造
  • 混合对比学习：时序的自监督表示学习

    提出了一种新的基于对比损失的无监督表示学习框架，并通过利用数据增广方案生成新样本来优化损失函数，实现混合样本的预测任务，以利用软目标进行学习。实验结果表明本方法在单变量和多变量时间序列上的表现优于其他表示学习方法，并展示了它对于临床时间序列的传递学习的好处。

    Mar, 2022

  • 跨通道和时间维度的多元时间序列早期分类

    本研究提出了一种更灵活的早期分类流程，将早期分类范例扩展到通道维度，并利用强化学习技术和约束条件来实现此方法，在合成数据上进行实验并在实际数据集上评估其性能，结果表明该方法可以通过实现更精确的分类来增强早期分类范例。

    Jun, 2023

  • 时间序列的自学习特征提取

    时间序列上的自我监督学习能够使得类似于自然语言处理和计算机视觉领域中最近释放的潜力发挥出来。通过使用基于 data2vec 自蒸馏框架的一个概念上简单而强大的非对比度方法，我们的方法展示了在分类和预测等下游任务上与 UCR、UEA 和 ETT 以及 Electricity 数据集上的最先进的自我监督学习方法相比的竞争力。

    Nov, 2023

  • 多任务自监督时间序列表示学习

    本文提出了一种新的时间序列表示学习方法，通过自监督任务的上下文、时间和转换一致性，结合不确定性加权方法，实现了多任务学习和跨领域传递学习，进而在时间序列分类、预测和异常检测等下游任务中取得了更好表现。

    Mar, 2023

  • TS-MoCo: 基于 Momentum Contrast 的时序动量对自监督生理学表示学习

    本文提出了一种新的编码框架，它依赖于自监督学习来学习各种生理领域的多元时间序列的表示，从而解决有限可用性的标记生理数据通常防止在生物医学机器智能领域使用强大的监督深度学习模型的问题，并得出新方法可以学会区分特征被用于下游分类任务。

    Jun, 2023

  • 基于自监督学习的脑电信号表示学习

    在多个领域，数据采集和标注的成本和实际应用性限制了监督式学习范式。本文提出了一种使用自监督学习范式从多元时间序列中学习信息表示的方法，并表明该方法没有依赖标签数据就可以超越纯监督式方法在低数据情况下应用于临床相关任务（如睡眠评分）以及两个脑电波数据集，并捕获了重要的生理信息。

    Nov, 2019

  • MTSMAE: 基于掩码的自编码器用于多元时间序列预测

    该论文提出了一种新的基于 Masked Autoencoders (MAE) 的自监督预训练方法称为 MTSMAE，利用补丁嵌入的方法处理多元时间序列，实验证明，该方法的性能显著优于目前最好的方法。

    Oct, 2022

  • 自监督学习中的对比神经过程

    本文提出了一种新的自监督学习框架，将对比学习与神经过程相结合，用于时间序列预测，实现数据的增强和避免手动设计数据增广，利用我们的方法训练的 ResNet 和线性分类器在工业、医疗和音频数据集上表现良好，精度提高 10％以上。此外，我们证明了我们的自监督表示在潜空间中更有效，改善了多个聚类指标，同时微调 10％的标签可达到与全监督学习相竞争的结果。

    Oct, 2021

  • CaSS：面向多元时间序列分类的通道感知自监督表示学习框架

    本文提出了一种统一的通道感知自监督学习框架（CaSS），通过设计一个新的基于 Transformer 的编码器（CaT）来捕捉 MTS 不同时间通道之间的复杂关系，并结合 Next Trend Prediction（NTP）和 Contextual Similarity（CS）两种新颖的预训练任务来实现自监督学习的表示学习，实验结果表明，与以前的自监督 MTS 表示学习方法相比，我们的框架在几个常用的基准数据集上均达到了新的最优成果（LSST 数据集上提高了 7.70％），并可很好地应用于下游 MTS 分类。

    Mar, 2022

  • 自我监督学习用户定位

    基于自我监督学习的无标注数据预训练，提升了基于 CSI 的用户定位的监督学习性能，该方法利用两个自编码器模型从无标注数据中提取相关特征，然后通过微调基于 MLP 的位置估计模型准确推断用户位置。我们在 CTW-2020 数据集上进行实验验证了该方法的有效性，尤其对于大规模的定位任务也取得了有希望的结果。

    Apr, 2024