本文提出一种基于掩蔽自编码器的方法，利用未标注数据进行自监督，并将其用于残余寿命（RUL）预测。在 C-MAPSS 数据集上的实验表明，相较于使用完全监督模型的方法，本文的方法在 RUL 预测的准确性和有效性上表现更佳。

Jul, 2022

本文介绍了 AutoRUL，这是一种自动化 RUL（Remaining Useful Life）预测的自动机器学习（AutoML）驱动的端到端方法，结合了标准回归方法的微调和高预测能力的集成，为领域专家提供了一种消除构建数据驱动模型中的机器学习专业知识，使 RUL 预测更易于实现的替代方案。

Jun, 2023

研究利用自监督学习扩展传统监督模型，以应对移动感知环境中许多传感器持续产生的大量数据和标注数据不足的挑战，通过一个未标注的时间序列数据集来抽取特征并预测带有标签的数据，研究结果表明在四种公共数据集上对于不同类型的传感器和应用，选择不同大小及来源的未标注数据会对最终的分类预测性能产生影响。

May, 2023

在本文中，我们展示了使用一种称为 Barlow Twins 的自我监督学习算法进行预训练的模型可以胜过常规的监督转移学习流程，该模型在小型标记皮肤病变数据集上进行微调后，在大型测试集中取得了 70% 的平均测试准确率，相比于监督转移学习的 66%。这暗示在标记困难的环境中收集更多未标记图像可能是一条获取更多标记数据的替代途径。我们的框架适用于低标记数据情境下的癌症图像分类模型。

Jan, 2024

本研究提出了一种基于深度神经网络参数化的生成模型和非线性嵌入技术的半监督学习方法，用于在历史数据中只部分了解健康状况的情况下建立资产故障的数据驱动建模。该方法可以使用有限的健康状况信息构建预测模型，精确预测未来资产的可靠性，实验结果表明深度生成模型所基于的非线性嵌入技术可以有效规范复杂模型，并实现高预测精度，不受健康状况信息可用性的影响。

Sep, 2017

该研究介绍了两个将混合（对数）位置 - 尺度分布与深度学习相结合的预测模型，以应对多个故障模式的系统中存在的多重重叠降级信号、未标记历史数据的存在以及不同故障模式之间信号的相似性等挑战，并验证了这些模型相对于现有方法的卓越性能。

May, 2024

本文比较了三种自监督预训练模型和一个有监督的基线模型，在五个数据集上进行了皮肤病变的诊断。结果表明，自监督预训练模型可以在提高准确性和降低结果的变异性方面与有监督的基线模型相媲美，尤其在数据量少的情况下表现更加稳定和优秀。

Jun, 2021

本研究旨在通过最大化源域的特征普适性，应用基于权重转移的迁移学习方法来诊断故障和评估机器的健康状况从而改善已有的深度学习方法在机器数据无标签且类别少、存在新故障的情况下应用到实际制造应用中困难的现状。特别地，采用自监督学习技术 Barlow Twins 训练的监测模型在未标注的、存在新故障的目标域中的表现优于有限的源数据下进行的有监督学习方法。此外，采用联邦学习技术进行分布式训练可以在机器之间扩散健康情况的知识，进而提高模型的泛化性能。

Apr, 2023

自我监督能够提高深度学习在鲁棒性、异常检测等难题上的表现甚至超越了全监督学习，成为未来自我监督学习研究的新方向。

Jun, 2019

自主车辆的感知问题中，使用雷达来感知的能力使其引起了研究人员的兴趣，然而，由于昂贵和难以标注大规模雷达数据，训练雷达模型一直存在困难。为了解决这个瓶颈问题，我们提出了一种自我监督学习框架，利用大量无标签的雷达数据来预训练仅用于自动驾驶感知任务的雷达嵌入。该方法结合了雷达对雷达和雷达对视觉的对比损失，从配对的无标签雷达热图和相应的相机图像中学习出一种通用表示。在下游目标检测任务中应用时，我们证明了该自我监督框架能够提高现有监督基线方法的 mAP 准确度 5.8%。

Dec, 2023