这篇论文研究不同视角之间的关联性对于对比学习在无监督和半监督任务中的重要性，并提出通过减少视角之间的互信息来学习有效的视角以提高下游任务的准确性。同时，作者在 ImageNet 分类和 PASCAL VOC 目标检测以及 COCO 实例分割任务上通过对比实验展示了他们提出方法的高效性。

May, 2020

基于表示距离的互信息最大化方法用于量化不同视图的重要性，进而实现更高效的对比学习和表示解耦。通过在频率域提取多视图表示，并基于不同频率之间的互信息重新评估其重要性，本文提出的框架能够有效约束互信息最大化驱动的表示选择，推动多视图对比学习。

Feb, 2024

提出了一种 MARL 框架，叫做渐进式互信息协作（PMIC），其通过最大化优秀协作行为相关的互信息和最小化次优协作行为相关的互信息以促进更好的协作，并避免陷入次优协作行为，实验结果表明，PMIC 相较于其他算法具有优异的表现。

Mar, 2022

该研究提出一种新颖的表示学习方法，在交叉视角相互信息最大化的训练下，从 2D 人体姿势中区分依赖于姿势和视角的因素，并且追加两个正则化项以确保所学习的表示的分离和平滑性，并将其应用于交叉视角的动作识别中。

Dec, 2020

通过自监督学习的方式，利用对比预测编码作为辅助技术最大化单模输入对和多模态融合结果之间的互信息，通过最大化互信息，促进多模态融合与单模态之间更好的对齐，从而提高多模态融合的性能。

Nov, 2023

本论文探讨了基于对比学习的图像表示学习方法，提出了一种最大化互信息的下界的目标函数，并在实验中发现选择难度更大的负样本以及视角可以提高算法性能。通过比较多种学习方法，研究结果表明，基于互信息的目标函数可以使得算法在分类、边界框检测、实例分割和关键点检测等任务上获得更好的表现。

May, 2020

本文从互信息优化的角度研究了负样本对视觉语言预训练中交叉模态对比学习的影响，并提出了一种渐进式改进的交叉模态相似度对比学习策略，在理论指导下实现了对 (部分) 假负例样本有益和有害效应的平衡，这种方法在四个下游交叉模态任务中表现良好。

May, 2023

使用 Multimodal Understanding Through Correlation Maximization and Minimization（MUCMM） 框架，该框架可以轻松地嵌入到任何预训练网络中，学习模态数据的常见和个体表示，根据提出的方法，通过可视化分析过程给出了 MUCMM 学习结构化潜在表示的解释。

May, 2023

多视角数据提供了比传统单视角数据更丰富的信息，多视角聚类算法旨在发现多视角数据之间共享的潜在结构，但现有方法往往没有充分利用多视角数据之间的横向协作，本文提出了一种基于横向协作的联合多视角协同聚类方法 (JMVCC)，包括使用非负矩阵分解 (NMF) 和横向协作原则生成基本分区，以及使用集成聚类方法融合这些局部分区，同时提出一种加权方法来降低低质量视角对生成和融合局部分区的负面影响，实验证明 JMVCC 在各种数据集上优于其他多视角聚类算法，对噪声视角具有鲁棒性。

Oct, 2023

本文提出了一种名为多模态信息最大化的框架，通过提高单模态输入对之间的相互信息和多模态融合结果与单模态输入之间的相互信息，以保留任务相关信息，在下游任务中，与主要任务（MSA）一起进行联合训练，以提高下游任务的性能。实验结果证明了我们方法的有效性。

Sep, 2021