通过预测随机生成的合成时间序列的频率内容的一种预训练任务，我们的实验表明，我们的方法在数据有限和受试者少的情况下超越完全监督学习，在有很多受试者的情况下与其性能相匹配。此外，我们的结果强调了频率信息对于睡眠阶段判定的相关性，并且还表明，深度神经网络利用除频率以外的信息来提高睡眠分期的准确性，这与以前的研究一致。我们预计我们的方法将在脑 - 机接口等 EEG 数据有限或来源于少数受试者的广泛应用领域中具有优势。

Mar, 2024

该论文提出了一种新的预训练方法，通过考虑时频一致性来适应不同时间动态的目标领域，并证明了该方法在多种实际应用场景下性能优于当前主流方法。

Jun, 2022

在多个领域，数据采集和标注的成本和实际应用性限制了监督式学习范式。本文提出了一种使用自监督学习范式从多元时间序列中学习信息表示的方法，并表明该方法没有依赖标签数据就可以超越纯监督式方法在低数据情况下应用于临床相关任务（如睡眠评分）以及两个脑电波数据集，并捕获了重要的生理信息。

Nov, 2019

在音乐领域应用自监督学习，通过研究和比较新的自监督方法，证明对比学习相对于其他自监督预训练方法在有限数据下游任务中始终能够取得更好的性能。

Apr, 2024

本研究提出了一种名为 SleePyCo 的深度学习框架，其中融合了特征金字塔和有监督对比学习的方法，旨在通过对单通道脑电图（EEG）的学习表示以自动睡眠评分，并能够在家庭环境中进行纵向睡眠跟踪，这一框架能够显著提高睡眠评分性能。

Sep, 2022

本文提出了一种新的框架，可以自动捕捉到基于权威睡眠医学指导的人类睡眠的脑电图信号的时频特性，并通过使用时间 - 频率补丁序列划分输入的 EEG 频谱图的信息特征和基于注意力的架构并行地有效地搜索划分的时频补丁与睡眠阶段的定义因素之间的相关性来对其进行定义。提出的方法在只使用脑电图信号的情况下，在 Sleep Heart Health Study 数据集上得出了新的最先进结果，分别获得了 0.93、0.88 和 0.87 的 F1 得分，并且具有高达 0.80 kappa 的高度一致性。我们还可视化了睡眠分期决策和所提出方法提取的特征之间的对应关系，为我们的模型提供了强大的可解释性。

Apr, 2022

本文介绍了一种名为 ContraWR 的自监督学习算法，可以用于从大量未标记的 EEG 数据中学习鲁棒的向量表示，用于睡眠分期任务，并且相比监督学习方法在数据标记少和噪声干扰情况下表现更好。

Oct, 2021

本研究对自监督学习中采用对比学习方法的常见预训练任务及各种方法进行了广泛的回顾，并通过图像分类，目标检测和动作识别等多个下游任务的性能比较，探讨了当前方法的限制以及未来发展方向。

Oct, 2020

本文提出了一种新的时间序列表示学习方法，通过自监督任务的上下文、时间和转换一致性，结合不确定性加权方法，实现了多任务学习和跨领域传递学习，进而在时间序列分类、预测和异常检测等下游任务中取得了更好表现。

Mar, 2023

本文探讨了自监督学习在人类活动识别领域解决标记数据不足的问题，通过学习预测任务，可以得到有用的表示用于分类，并发现不冻结表示可以在预测任务中实现显著性能提升并且效果与标记数据量成反比。

Jul, 2023