LEAVES: 对比学习中的时间序列数据视图学习
通过分析时间序列数据增强使用信息理论,并总结最常采用的增强方法,我们提出了一种参数增强的对比学习框架 AutoTCL,它可以自适应地支持时间序列表示学习,无缝集成在不同的主干编码器中,实验证明在一元预测任务和分类任务中,我们的方法分别比领先的基准方法平均降低 6.5% 和 4.7% 的误差,并提高 1.2% 的平均准确率。
Feb, 2024
提出了一种新的基于对比损失的无监督表示学习框架,并通过利用数据增广方案生成新样本来优化损失函数,实现混合样本的预测任务,以利用软目标进行学习。实验结果表明本方法在单变量和多变量时间序列上的表现优于其他表示学习方法,并展示了它对于临床时间序列的传递学习的好处。
Mar, 2022
本文提出了一种学习高效自适应数据增强策略的对比学习框架,通过在训练过程中持续生成新的数据增强策略,无需任何监督,有效生成高质量的正负对,进而提升对比学习性能。实验证明,使用视图相关的增强策略训练优于使用所有视图共享的独立策略,在多个数据集和对比学习框架上验证了方法的一致优越性。
May, 2024
时间序列上的自我监督学习能够使得类似于自然语言处理和计算机视觉领域中最近释放的潜力发挥出来。通过使用基于 data2vec 自蒸馏框架的一个概念上简单而强大的非对比度方法,我们的方法展示了在分类和预测等下游任务上与 UCR、UEA 和 ETT 以及 Electricity 数据集上的最先进的自我监督学习方法相比的竞争力。
Nov, 2023
本文提出了一种新的自监督学习框架,将对比学习与神经过程相结合,用于时间序列预测,实现数据的增强和避免手动设计数据增广,利用我们的方法训练的 ResNet 和线性分类器在工业、医疗和音频数据集上表现良好,精度提高 10%以上。此外,我们证明了我们的自监督表示在潜空间中更有效,改善了多个聚类指标,同时微调 10%的标签可达到与全监督学习相竞争的结果。
Oct, 2021
研究自监督视频表示学习中的对比方法,提出一种考虑数据增强变量的对比学习框架,以提高针对时间信息进行的微粒视频动作识别的性能,并在多个视频基准测试中达到最先进水平。
Apr, 2021
本文提出了一种新的时间序列表示学习方法,通过自监督任务的上下文、时间和转换一致性,结合不确定性加权方法,实现了多任务学习和跨领域传递学习,进而在时间序列分类、预测和异常检测等下游任务中取得了更好表现。
Mar, 2023
本文针对对比度学习的隐私问题进行了首次隐私分析,实验结果表明,相对于监督学习模型,对比学习模型更易受到属性推断攻击,但其会导致的成员推断攻击风险较小。为解决这一问题,提出了一种新的隐私保护对比度学习机制 Talos,通过对抗式训练成功地缓解了属性推断威胁,同时保持了其成员隐私和模型效用。
Feb, 2021