May, 2020

对比学习的好视角是什么？

PDF
TL;DR这篇论文研究不同视角之间的关联性对于对比学习在无监督和半监督任务中的重要性，并提出通过减少视角之间的互信息来学习有效的视角以提高下游任务的准确性。同时，作者在 ImageNet 分类和 PASCAL VOC 目标检测以及 COCO 实例分割任务上通过对比实验展示了他们提出方法的高效性。
contrastive learningself-supervised representation learningview selectionmutual informationunsupervised pre-training
发现论文，激发创造
  • 自监督对比学习的约束多视图表示

    基于表示距离的互信息最大化方法用于量化不同视图的重要性，进而实现更高效的对比学习和表示解耦。通过在频率域提取多视图表示，并基于不同频率之间的互信息重新评估其重要性，本文提出的框架能够有效约束互信息最大化驱动的表示选择，推动多视图对比学习。

    Feb, 2024

  • 对比学习中的互信息在视觉表征中的应用

    本论文探讨了基于对比学习的图像表示学习方法，提出了一种最大化互信息的下界的目标函数，并在实验中发现选择难度更大的负样本以及视角可以提高算法性能。通过比较多种学习方法，研究结果表明，基于互信息的目标函数可以使得算法在分类、边界框检测、实例分割和关键点检测等任务上获得更好的表现。

    May, 2020

  • 思考对比学习中的最小充分表示

    探讨对比学习在自我监督表示学习中的优秀表现，分析其局限性为何会影响下游任务的性能，并提出一种基于互信息的解决方案，实验证明该方案明显改善了多种下游任务的表现。

    Mar, 2022

  • 通过最大化视角间相互信息来学习表示

    该研究提出了一种基于最大化共享环境的多视角特征提取之间的互信息来进行自我监督表示学习的方法，并通过使用该方法建立一个模型，该模型学习到的图像表示在 ImageNet 等任务上的表现优于以前的方法。

    Jun, 2019

  • 对比多视角编码

    本文研究了一个强大的表示形式，该表示形式对场景的多视图和不完整信息进行建模，通过多视图对比学习来提取多个视角得到的公共信息，该方法优于基于视图交叉预测的选择，经过检验实现了最先进的图像和视频无监督学习基准结果。

    Jun, 2019

  • 什么造就良好的协作视角？多智能体感知的对比互信息最大化

    探索中介协作视角下协作感知的 "良好" 特性及其与个体视角的潜在关系，提出了一个名为 CMiMC 的新框架，利用多视角对比学习建立了 CMiMNet，实现了多视图互信息的估计和最大化，提高了性能并减少通信量。

    Mar, 2024

  • 无监督学习视觉表示的对比方法再探

    本文将需要自我学习来改进现有模型的数据集偏差性进行了深入研究，并成功地在不同类型数据集上改善了模型，同时介绍了一种具有多尺度裁剪、强数据增强和近邻策略的改进自监督学习方法，并通过 MoCo 模型在语义分割和视频实例分割任务中实现了优秀的效果。

    Jun, 2021

  • 对比学习，多视角冗余和线性模型

    本文针对多视图环境下对比学习进行理论分析，结果表明当视图提供有关标签的冗余信息时，所学习的表示的线性函数在下游预测任务中几乎是最优的。

    Aug, 2020

  • 示范对比学习

    该论文提出了一个从多个视角捕捉的无标注视频演示中学习视觉表示的框架，优化了最近提出的自监督学习算法，应用对比学习来增强与任务相关的信息和抑制特征嵌入中的无关信息，验证了所提出的方法在模拟几种机器人任务，包括 pick and place 任务中的应用，评估了学习表示的三个指标：视点对齐，阶段分类和强化学习，在所有情况下，结果都表明与现有方法相比，该方法水平更高，而且训练轮数更少。

    Jan, 2022

  • 多视角对比学习

    通过信息最大化和充分统计推导出新的表示学习目标，研究了多视图任务的匹配，在有限的计算预算中降低唯一样本数同时增加这些样本的视图数，与 SimCLR 相比，训练 128 个时期，批量大小 256 的多视图对比模型在 ImageNet1k 上的性能超越了训练 1024 个时期，批量大小 4096 的 SimCLR，对于对比模型需要大批量和长时间训练的观念提出了挑战。

    Mar, 2024