Mar, 2024

基于异质对比学习的基础模型及其扩展

PDF
TL;DR在大数据和人工智能时代，对于基础模型采用对比自监督学习来建模大规模异构数据是一种新兴的范式。本文针对基础模型的异构对比学习进行了系统的调查，评估当前的状态并突出了对比学习的挑战和未来趋势。主要讨论了最新的对比学习方法如何处理视角异质性以及如何使用对比学习训练和微调多视图基础模型，然后介绍了用于任务异质性的对比学习方法，并展示了如何将不同任务与对比学习损失结合以实现不同目的。最后，总结了对比学习的挑战，并展望了未来的研究方向。
big dataartificial intelligencecontrastive self-supervised learningheterogeneous datafoundation models
发现论文，激发创造
  • 异构对比学习

    本论文提出了一个统一的异构学习框架，通过结合加权无监督对比损失和加权有监督对比损失来解决对比学习中的假阴性对问题，从而模拟多种异构性的数据。实验结果表明，该方法在模拟复杂数据时具有较好的效果和高效性。

    May, 2021

  • 对比自监督学习综述

    本研究对自监督学习中采用对比学习方法的常见预训练任务及各种方法进行了广泛的回顾，并通过图像分类，目标检测和动作识别等多个下游任务的性能比较，探讨了当前方法的限制以及未来发展方向。

    Oct, 2020

  • 对比表示学习：框架与综述

    本篇论文提供了 Contrastive Learning 的文献综述，并提出了一个通用的 Contrastive Representation Learning 框架，该框架简化并统一了许多不同的对比学习方法，并对对比学习的各个组成部分进行了分类。对于任何对比学习系统存在的规约偏差进行了分析和讨论，将我们的框架根据各种机器学习子领域的不同视角进行了分析。最后，介绍了对比学习在计算机视觉、自然语言处理、音频处理以及强化学习等领域的应用，以及未来研究方向中的挑战和一些最有前途的研究方向。

    Oct, 2020

  • 对比学习的隐私风险量化与减轻

    本文针对对比度学习的隐私问题进行了首次隐私分析，实验结果表明，相对于监督学习模型，对比学习模型更易受到属性推断攻击，但其会导致的成员推断攻击风险较小。为解决这一问题，提出了一种新的隐私保护对比度学习机制 Talos，通过对抗式训练成功地缓解了属性推断威胁，同时保持了其成员隐私和模型效用。

    Feb, 2021

  • 穿戴式小规模任务上的对比学习要素

    本文研究了自监督学习和对比学习在可穿戴设备活动识别任务上的应用。作者从算法级别和任务级别两个角度进行深入研究，并提出了开源 PyTorch 库 CL-HAR，旨在为未来的研究提供实用工具。

    Feb, 2022

  • 对比学习反转数据生成过程

    使用 InfoNCE 系列的 feedforward 模型通过隐式反转观察数据的基础生成模型来实现使学习到的表示方法适用于大量下游任务的目标，这种理论强调了对比学习，生成建模和非线性独立成分分析之间的基本联系，为推导出更有效的对比损失提供了理论基础。

    Feb, 2021

  • 对比学习的少样本分类

    本文提出了一种新的对比学习框架，将其无缝地整合到预训练阶段和元训练阶段，以提高少样本分类的性能，并使用交叉视图的情节训练机制进行最近的质心分类，并采用基于距离缩放的对比损失。

    Sep, 2022

  • 对比学习在天体物理学中的简要评述

    本文介绍对比学习（Contrastive Learning）是一种自监督机器学习算法，可从多维数据集中提取信息，特别适用于天文学中的已知仪器效应去除和使用有限数量标签进行监督分类和回归，是开展天文学基础模型的一个有前途的途径。

    Jun, 2023

  • 理解对比学习需要融入归纳偏差

    本文指出只考虑增强方法和对比损失等因素不能充分解释对比学习的成功，需要考虑算法和函数类的归纳偏差，特别是对于线性表示，加入函数类的归纳偏差可以让对比学习在更宽松的条件下工作。

    Feb, 2022

  • 对比学习中不应该进行对比的内容

    本文提出了一种对比学习方法，该方法不需要先前知道特定于任务的不变性，使用多头网络构建不同的嵌入空间来捕捉可变及不变的因素 以提高视觉表示的效果，并发现不变空间和变化空间的连接在包括数据破坏等各种下游分类任务中表现最佳。

    Aug, 2020