本文提出了一种信息论共同训练目标，用于无监督学习，着重研究测量 “过去感觉” 和 “未来感觉” 之间的相互信息。该目标训练预测模型和确认模型，以匹配 “过去感觉和未来感觉” 之间的相互信息。

Feb, 2018

基于少量训练资源，Meta Co-Training 在 ImageNet-10% 上取得了新的最先进性能，并在其他细粒度图像分类数据集上胜过先前的半监督方法。

Nov, 2023

我们通过 SimCLR 和多视图互信息最大化的角度研究了联邦环境中的对比学习，其中发现了对比表示学习与用户验证之间的关联；通过在每个客户端的本地 SimCLR loss 加上用户验证损失，我们恢复了全局多视图互信息的下界。为了适应在客户端存在一些标记数据的情况，我们将 SimCLR 变体扩展到联邦半监督设置。我们发现可以通过两个改变来获得受监督的 SimCLR 目标：a) 对比损失是在具有相同标签的数据点之间计算的，b) 我们需要一个额外的辅助头部，从任一视图中预测正确的标签。除了我们提出的 SimCLR 扩展，我们还研究了不同非独立同分布性的来源对联邦无监督学习通过全局互信息最大化的性能的影响；我们发现全局目标对于某些非独立同分布性的来源是有益的，但对于其他来源可能是有害的。我们在各种任务中对我们提出的扩展进行了实证评估，以验证我们的论点，并进一步证明我们的修改方法推广到其他预训练方法。

May, 2024

该研究提出了一种基于最大化共享环境的多视角特征提取之间的互信息来进行自我监督表示学习的方法，并通过使用该方法建立一个模型，该模型学习到的图像表示在 ImageNet 等任务上的表现优于以前的方法。

Jun, 2019

本文提出了一种新的概率多视图学习算法，利用视图间的随机一致性作为正则化，该算法在结构化和非结构化问题上工作，并容易推广到部分一致情况，其中在完全一致情况下，我们的算法最小化每个视图模型之间的 Bhattacharyya 距离，并在几个平面和结构化分类问题上表现优越。

Jun, 2012

该研究提出了一种新颖的图像聚类框架，将联合表示学习和聚类相结合，并使用加权的对比损失函数来训练，在多个图像数据集上表现出显著的优越性。

Jul, 2021

解决冲突是使多视角分类决策更可靠的关键，现有的基于信任的框架无法适应不同视角之间可能出现的冲突，因此我们开发了一种计算信任的折扣方法来增强现有的框架，通过考虑实例级概率敏感的信任折扣机制，对个体视角的预测进行融合以提高可靠性，在真实应用中的六个数据集上验证了我们的方法，使用了 Top-1 准确率、AUC-ROC 用于不确定性感知预测、Fleiss' Kappa 以及考虑了基准真实标签的新指标 Multi-View 一致性，实验结果表明，计算机信任可以有效解决冲突，为更可靠的多视角分类模型铺平了道路。

Jun, 2024

本文提出了一个概率框架，将多实例学习扩展到多类分类和回归等其他问题，并引入一种新的一致性概念来表征估计器，证明了在温和的假设下具有良好的收敛性。实验证明，该方法在三种问题设置中具有有效性。

Apr, 2020

本论文探讨了基于对比学习的图像表示学习方法，提出了一种最大化互信息的下界的目标函数，并在实验中发现选择难度更大的负样本以及视角可以提高算法性能。通过比较多种学习方法，研究结果表明，基于互信息的目标函数可以使得算法在分类、边界框检测、实例分割和关键点检测等任务上获得更好的表现。

May, 2020

这篇论文研究不同视角之间的关联性对于对比学习在无监督和半监督任务中的重要性，并提出通过减少视角之间的互信息来学习有效的视角以提高下游任务的准确性。同时，作者在 ImageNet 分类和 PASCAL VOC 目标检测以及 COCO 实例分割任务上通过对比实验展示了他们提出方法的高效性。

May, 2020