本文研究了一个强大的表示形式,该表示形式对场景的多视图和不完整信息进行建模,通过多视图对比学习来提取多个视角得到的公共信息,该方法优于基于视图交叉预测的选择,经过检验实现了最先进的图像和视频无监督学习基准结果。
Jun, 2019
基于表示距离的互信息最大化方法用于量化不同视图的重要性,进而实现更高效的对比学习和表示解耦。通过在频率域提取多视图表示,并基于不同频率之间的互信息重新评估其重要性,本文提出的框架能够有效约束互信息最大化驱动的表示选择,推动多视图对比学习。
Feb, 2024
这篇论文研究不同视角之间的关联性对于对比学习在无监督和半监督任务中的重要性,并提出通过减少视角之间的互信息来学习有效的视角以提高下游任务的准确性。同时,作者在 ImageNet 分类和 PASCAL VOC 目标检测以及 COCO 实例分割任务上通过对比实验展示了他们提出方法的高效性。
May, 2020
本论文探讨了基于对比学习的图像表示学习方法,提出了一种最大化互信息的下界的目标函数,并在实验中发现选择难度更大的负样本以及视角可以提高算法性能。通过比较多种学习方法,研究结果表明,基于互信息的目标函数可以使得算法在分类、边界框检测、实例分割和关键点检测等任务上获得更好的表现。
该研究提出了一种基于最大化共享环境的多视角特征提取之间的互信息来进行自我监督表示学习的方法,并通过使用该方法建立一个模型,该模型学习到的图像表示在 ImageNet 等任务上的表现优于以前的方法。
多视角表示学习通过发现多视图一致性和解缠绕的信息边界,提出了一种旨在超越归纳偏见、确保表示的可解释性和泛化性的新型多视图表示解缠绕方法。实验证明了该方法在聚类和分类性能上优于其他 12 种方法,并且提取的一致性和特异性具有紧凑和可解释的特点。
Aug, 2023
利用相互信息和信息瓶颈的概念对元学习进行了建模,提出了一种通用的可行的框架,用于学习任务描述的随机表示或编码,该表示对于预测验证集具有高度的信息量,并开发了一种基于记忆的算法,用于少样本分类问题的研究。
Sep, 2020
提出了一个创新且数学严谨的定义,用于从多视角数据中计算共有信息。利用这个定义,开发了一种新颖的监督式多视角学习框架,以捕捉共有信息和独特信息。通过明确最小化总相关性项,可以让从每个视角提取的共有信息和独特信息彼此独立,从而在理论上保证了我们框架的有效性。通过基于矩阵的 Rényi's $α$ 阶熵函数来估计信息论量,避免了在高维空间中进行变分逼近和分布估计的需求。理论证明了我们的框架可以忠实地发现多视角数据中的共有信息和独特信息。在合成数据和七个标准数据集上的实验证明了我们提出的框架优于现有方法的性能。
Jun, 2024
本研究基于分布式源编码理论,以独立编码和联合解码为基础,设计了一种学习型分布式多视角图像编码 (LDMIC) 框架,通过交叉信息传输机制有效捕获全局视角间的相关性,无需考虑几何关系,并表现出显著的优于传统的和基于学习的 MIC 方法,同时具有快速的编码速度。
Jan, 2023
本文介绍了一种基于条件熵准则的多视图学习方法,可以检测视图不一致并过滤影响性能的样本,大大提高了传统多视图学习的性能。
Jun, 2012