本文介绍了一种名为 Collaborative Self-Supervised Learning（ColloSSL）的新技术，利用用户多个设备收集的未标记数据来学习数据的优质特征，实验结果表明，ColloSSL 在多个实验设置中均优于全监督和半监督学习技术，与最佳基准测试成绩相比，F_1 得分的绝对增量最高达 7.9％；此外，ColloSSL 在低数据情况下也表现优异，仅利用最佳情况下可用的十分之一的标记数据即可优于全监督方法。

Feb, 2022

本文提出了一种基于自监督技术的特征学习方法，应用于无形标签的传感器数据。该方法可以应用于人类活动识别等领域，可以通过转化识别任务提供监督信号提取有价值的特征，并在智能手机环境下的无人监督、半监督和迁移学习的情况下实现了与完全监督网络相当甚至更好的性能。该技术可被广泛应用于其他领域。

Jul, 2019

本研究提出了一种自监督学习方法，利用时间视频对齐作为前提任务，同时利用帧级别和视频级别信息，通过时间对齐损失和时间正则化项的结合来训练编码器网络，通过在不同数据集上的广泛评估验证其在视频表示学习方面的出色性能。

Mar, 2021

我们的研究提出了一种创新方法，通过对齐和绑定不同模态的时间序列表示，以引导神经编码器揭示这些多模态特征之间的潜在模式关联，从而解决了由于复杂的特征融合方法和对异质特征的依赖导致的扩展性问题，并在多个应用领域的不同时间序列数据集上验证了该方法的有效性。

Dec, 2023

本文提出了一种针对同一过程（如人类动作）的时间序列（例如视频）的弱监督表征学习方法，通过对全局时间序列进行对齐，并利用对齐的隐变量跨序列对的全局时间顺序作为监督信号进行表征学习，通过最优序列对齐进行嵌入网络的训练。通过大量实验表明，该方法在动作分类、少样本学习和视频同步等任务中均比之前的方法性能有了明显提高。

May, 2021

本文提出了一种利用空间与时间正对数据的自监督学习策略，该方法包括了点聚集学习和无监督物体跟踪的方法，并通过对两个大规模 LiDAR 数据集的自监督训练和模型迁移得出：该方法在点云分割领域胜过现有的、只利用空间信息或忽略时序性质的自监督学习方法。

Mar, 2023

本论文提出了一种上下文敏感的时态特征学习（CSTL）网络，用于步态识别，其中在三个尺度上生成时间特征，并根据来自局部和全局视角的上下文信息自适应地聚合它们。通过使用 transformer 实现全局关系建模和选取差异化空间特征的策略，显著提高了步态识别的准确性。

Apr, 2022

本论文提出了一种自监督学习的视频对齐框架，利用 2D 骨架热图作为输入，通过自身在空间和时间域内的自注意力机制来提取有效的时空和上下文特征，同时通过基于 2D 骨架的热图增强技术进行自监督学习，取得了比 CASA 更高的准确度和对缺失和噪声关键点更好的稳健性，在不同的细粒度人体活动理解任务中表现优于先前的方法，如阶段分类、阶段进展、视频对齐和细粒度帧检索。

May, 2023

自我监督学习 (SSL) 是一种有效的方法，可以从大规模无标签数据中学习表示，对时间序列分析显示出有希望的结果。本文从对比和生成两个主要流派对比研究了时间序列中的自我监督表示学习。我们首先介绍了对比和生成 SSL 的基本框架，并讨论了如何获得指导模型优化的监督信号。然后，我们分别为每种类型实现了经典算法 (SimCLR vs. MAE)，并在公平的环境中进行了比较分析。我们的结果提供了每种方法的优势和劣势的见解，并为选择合适的 SSL 方法提供了实用的建议。我们还讨论了我们研究结果对更广泛的表示学习领域的影响，并提出了未来的研究方向。所有的代码和数据都在 https://github.com/DL4mHealth/SSL_Comparison 发布。

Mar, 2024

本文提出了一种新的编码框架，它依赖于自监督学习来学习各种生理领域的多元时间序列的表示，从而解决有限可用性的标记生理数据通常防止在生物医学机器智能领域使用强大的监督深度学习模型的问题，并得出新方法可以学会区分特征被用于下游分类任务。

Jun, 2023