该研究提出了一种新型的学习范式 - 统一对比学习（UniCL），通过将人类标注的图像标签数据和网络爬取的图像文本数据相结合，学习出在零样本，线性探测，完全微调和迁移学习方案中具有语义丰富而有区分性的表示。在各种基准测试中，UniCL 的性能均优于语言图像对比学习和监督学习方法，并且在纯图像标签数据上，其表现也不亚于监督学习方法。

Apr, 2022

本文提出了一种名为 CLUDA 的新颖的时序数据无监督领域适应框架，旨在使用对比学习框架来学习多变量时间序列的语境表示，并通过自定义最近邻对比学习来捕获源域和目标域之间的上下文表示变化，从而实现了在时间序列领域中学习域不变上下文表示的方法，并可用于对多种时间序列数据集进行评估以证明其有效性和卓越性能。

Jun, 2022

在本文中，我们提出了一种微软的自动机器学习（AutoML）实践，名为自动对比学习（AutoCL），它可以自动学习对各种时间序列数据集和任务进行对比学习表示。我们首先构建了一个覆盖数据增强、嵌入变换、对比对构建和对比损失的规范化的通用搜索空间，然后引入了一种高效的强化学习算法，用于从验证任务的性能中优化对比学习策略，以在搜索空间中获得更有效的策略。实验结果表明，AutoCL 能够自动找到适合给定数据集和任务的对比学习策略，并且我们还提供了实证分析作为未来对比学习策略设计的指导。

Mar, 2024

学习能够适用于各种不同类型下游任务的通用时间序列表示是具有挑战性但有价值的，本研究提出了一种名为 TimesURL 的自监督框架，利用增强方法、负样本构建和损失设计来学习高质量的通用表示，并在 6 个不同的下游任务中达到最先进的性能。

Dec, 2023

引入一种新的预训练程序，利用有监督对比学习来区分每个预训练数据集中的特征，进而通过将目标数据与预训练数据集的学习动态更加紧密地对齐，以提高目标数据的准确预测。

Nov, 2023

提出了 UniTime 模型以解决跨领域时间序列学习中的挑战，通过灵活适应不同特征的数据、使用领域指令和语言 - 时间序列转换器来对齐模态，以及利用屏蔽来缓解领域收敛速度不平衡问题，从而大幅提升最先进的预测性能和零样本可迁移性。

Oct, 2023

基于深度学习的基础模型正在广泛应用于各个领域，而 UNITS 模型以其在时间序列数据上的卓越表现和多领域数据集上的优良性能，为统一的任务规范提供了支持。

Feb, 2024

通过开发严密的理论来剖析和确定无监督损失中能够帮助改善鲁棒监督损失的成分，并进行适当实验证实我们的发现。

Nov, 2023

本文提出了一种基于连续提示的统一图像 - 文本 - 标签对比学习框架，从数据统一性，多样性和假阴性样本等方面解决了医学图像对比学习中的的挑战，并在多个下游任务中展现出了出色的表现。

Jul, 2023

通过使用 US-4 数据集进行直接预训练，提出了一种名为 USCL 的 US 半监督对比学习方法，以学习来自 US-4 的功能强大的特征，并在多项下游任务中取得超越 ImageNet 预训练和其他 SOTA 预训练方法的结果。

Nov, 2020