ICLRJun, 2021

理解基于潜在相关性的多视角学习和自监督：一个可识别性视角

PDF
TL;DR本文旨在从潜在组件识别的角度理解基于最大化相关性的深度多视角学习，并采用一种直观的生成模型来分析多视角数据，它是共享和私有组件的不同非线性混合物，通过最大化潜在相关性，可以保证从各个视角提取共享组件（在一定程度上）并且还证明了通过适当的正则化设计，每个视图中的私有信息可以被明确地分离出来。
multiview learningcorrelation-based neural embeddinglatent component identificationshared and private componentsregularization design
发现论文，激发创造
  • 多视角聚类的共享生成潜在表示学习

    本文提出了一种基于共享生成潜在表征的多视角聚类方法，通过深度生成学习从视角中提取非线性特征并捕捉视角之间的相关性以达到更好的聚类性能，并在多个不同规模的数据集上得到了优于现有方法的实验结果。

    Jul, 2019

  • 自监督对比学习的约束多视图表示

    基于表示距离的互信息最大化方法用于量化不同视图的重要性，进而实现更高效的对比学习和表示解耦。通过在频率域提取多视图表示，并基于不同频率之间的互信息重新评估其重要性，本文提出的框架能够有效约束互信息最大化驱动的表示选择，推动多视图对比学习。

    Feb, 2024

  • 从多视角探寻规律：自监督和正则化学习用于多视角物体识别

    研究了多角度自我监督学习中的物体不变表示问题，提出了一种随机原型嵌入方法，并使用多角度一致性正则化来实现该方法。实验表明，该方法能够在已知和未知数据上优于其他自我监督学习方法，并且可以应用于少量数据场景中。

    Mar, 2020

  • 基于自监督相关性的多视图聚类算法

    我们提出了一个全新的基于深度学习的多视角聚类框架，通过学习有意义的融合数据表示和一致的伪标签，实现对通用数据的聚类分析任务的改进。

    Feb, 2024

  • 一个概率模型解释自监督表示学习

    自监督学习在生成的潜在变量模型和对比方法的框架下，提出了一种能够改善性能、实现任务无关性表示的方法。

    Feb, 2024

  • 通过最大化视角间相互信息来学习表示

    该研究提出了一种基于最大化共享环境的多视角特征提取之间的互信息来进行自我监督表示学习的方法，并通过使用该方法建立一个模型，该模型学习到的图像表示在 ImageNet 等任务上的表现优于以前的方法。

    Jun, 2019

  • 对比学习，多视角冗余和线性模型

    本文针对多视图环境下对比学习进行理论分析，结果表明当视图提供有关标签的冗余信息时，所学习的表示的线性函数在下游预测任务中几乎是最优的。

    Aug, 2020

  • 多视角因果表示学习与部分可观测性

    我们提出了一个统一的框架来研究从同时观察到的多个视图（如不同的数据模态）中学习到的表征的可识别性。我们允许部分观察的设置，其中每个视图都由一些潜在变量的子集的非线性混合构成，这些潜在变量可以有因果关系。我们通过对比学习和每个视图的单个编码器证明，任意数量的视图的所有子集共享的信息可以通过平滑双射进行学习。我们还提供了图形判据，指示哪些潜在变量可以通过一组简单的规则进行识别，我们称之为可识别代数。我们的总体框架和理论结果统一并扩展了关于多视图非线性 ICA、解缠和因果表示学习的几项先前工作。我们在数字、图像和多模态数据集上实验证实了我们的论述。此外，我们证明了我们设置的不同特殊情况下先前方法的性能可以得到恢复。总的来说，我们发现在部分可观察性的一般性较弱的假设下，获取多个部分视图有助于识别更精细的表征。

    Nov, 2023

  • 无需视角监督的多视角数据生成

    提出了一种基于无监督多视图生成模型的条件变体，可在高维空间中生成各种物体的逼真样本，相比于其他条件生成方法，我们不会对变差因素做任何假设，不需要视图的监督。

    Nov, 2017

  • 多视角自监督学习

    本文提供了一种信息理论框架，从多个视角探究自监督学习的特性，并介绍了可以丢弃任务无关信息的任务相关自适应目标函数，为自监督学习的目标设计提供了更加广阔的空间。

    Jun, 2020