提出了一种新的基于对比损失的无监督表示学习框架，并通过利用数据增广方案生成新样本来优化损失函数，实现混合样本的预测任务，以利用软目标进行学习。实验结果表明本方法在单变量和多变量时间序列上的表现优于其他表示学习方法，并展示了它对于临床时间序列的传递学习的好处。

Mar, 2022

在多个领域，数据采集和标注的成本和实际应用性限制了监督式学习范式。本文提出了一种使用自监督学习范式从多元时间序列中学习信息表示的方法，并表明该方法没有依赖标签数据就可以超越纯监督式方法在低数据情况下应用于临床相关任务（如睡眠评分）以及两个脑电波数据集，并捕获了重要的生理信息。

Nov, 2019

本文提出了一种基于自监督技术的特征学习方法，应用于无形标签的传感器数据。该方法可以应用于人类活动识别等领域，可以通过转化识别任务提供监督信号提取有价值的特征，并在智能手机环境下的无人监督、半监督和迁移学习的情况下实现了与完全监督网络相当甚至更好的性能。该技术可被广泛应用于其他领域。

Jul, 2019

时间序列上的自我监督学习能够使得类似于自然语言处理和计算机视觉领域中最近释放的潜力发挥出来。通过使用基于 data2vec 自蒸馏框架的一个概念上简单而强大的非对比度方法，我们的方法展示了在分类和预测等下游任务上与 UCR、UEA 和 ETT 以及 Electricity 数据集上的最先进的自我监督学习方法相比的竞争力。

Nov, 2023

介绍了自监督学习的基本概念、方法和应用，探讨了自监督学习在不同数据模态下的表现，包括图像、视频、音频和文本，并讨论了其实用性和存在的问题。

Oct, 2021

本文提出了一种新的编码框架，它依赖于自监督学习来学习各种生理领域的多元时间序列的表示，从而解决有限可用性的标记生理数据通常防止在生物医学机器智能领域使用强大的监督深度学习模型的问题，并得出新方法可以学会区分特征被用于下游分类任务。

Jun, 2023

本文提出了一种自我监督学习方法，使用真实的未标记数据探索频谱活动，使用此方法可以大幅减小特征向量的大小，并提高性能，同时提供了频谱数据的分类结果。

Sep, 2022

本研究讨论了在野外利用未标记的可穿戴传感器数据进行压力检测的方法，该方法结合了数据增强技术、自编码器和半监督学习等方法，通过实验验证，相较于基准监督学习模型，可以将压力分类性能提高 7.7% 到 13.8%。

Feb, 2022

我们探索了可以在移动设备上部署的自监督模型来学习通用音频表示，具体而言，我们提出了利用频谱图域中的时间上下文的方法。一种方法估计从同一音频剪辑中随机提取的两个短音频片段之间的时间间隔。其他两种方法受 Word2Vec 的启发，旨在从过去和未来切片中重建时间频谱图切片，或者从当前切片重建周围切片的上下文。我们关注使用小型编码器体系结构的评估，这些体系结构可以在推理（在多个下游任务中重复使用共同学习的表示）和训练（与联合学习结合使用时捕获真实数据分布而不损害用户隐私）期间潜在运行于移动设备。我们评估了自我监督学习模型产生的嵌入质量，并表明它们可以被重新用于各种下游任务，甚至对一些任务的性能接近相似大小的全监督模型。

May, 2019

本研究探讨了利用自监督学习技术预先在未标记传感器数据上对深度学习模型进行预训练，以及少样本学习技术，是否对飞行器结构所使用的 铝合金板的剩余寿命估计有用。结果表明，经过自监督预训练的模型能够显著地提高下游的剩余寿命预测任务中的预测性能，并且具有更小的计算成本，对于仅具有有限的标记数据的预测任务具有很大的价值。

Jan, 2023