Mar, 2024

MVEB：多视图熵瓶颈的自监督学习

PDF
TL;DR自我监督学习通过最大化两个视图的嵌入间的一致性和嵌入分布的差分熵，提出了多视图熵瓶颈方法（MVEB）来有效地学习最小的充分表示。实验证实，MVEB 显著提高了性能，在使用 ResNet-50 骨干网络进行线性评估时，ImageNet 的 top-1 准确率达到了 76.9％，是迄今为止的最新成果。
self-supervised learningrepresentationminimal sufficient representationmulti-view entropy bottleneckimagenet
发现论文，激发创造
  • 通过多视角信息瓶颈学习强大的表示

    本文提出了基于信息瓶颈原理的多视角无监督学习方法，通过对同一实体的两个视角进行对比得出冗余信息，进而定义新的多视角模型，在 Sketchy 数据集和 MIR-Flickr 数据集的标签受限版本上取得了最先进的结果；此外还通过数据扩增技术将理论扩展至单视角情况，实验证明更具有良好的泛化能力。

    Feb, 2020

  • 条件熵瓶颈

    我们提出了评估模型质量的最小必要信息 (MNI) 准则，训练与该准则相对应的新的目标函数 Conditional Entropy Bottleneck (CEB) 模型以及比较该模型与确定性模型和变分信息瓶颈 (VIB) 模型表现的实验结果支持了我们关于机器学习中鲁棒泛化失败的假设。

    Feb, 2020

  • 深度多视角子空间聚类的自监督信息瓶颈

    本论文从信息论的角度探讨了深度多视角子空间聚类的问题，提出了一种基于自我监督信息瓶颈的多视角子空间聚类框架，通过学习不同视图之间的共同信息以及视图特定的信息，有效提升了多视角子空间聚类的性能表现，并在真实数据上验证了其优越性。

    Apr, 2022

  • 多视角自监督学习中的熵和重构的作用

    多视角自监督学习的成功机制尚未完全了解，本文通过熵和重构项 (ER) 的下界进行分析，发现基于聚类的方法最大化了互信息 (MI)，而基于蒸馏的方法则显式地最大化了重构项并隐式地鼓励稳定熵，通过用 ER 下界替换常见 MVSSL 方法的目标，实现了竞争性的性能，并在小批量大小或小指数移动平均 (EMA) 系数下保持稳定。

    Jul, 2023

  • 自监督对比学习的约束多视图表示

    基于表示距离的互信息最大化方法用于量化不同视图的重要性，进而实现更高效的对比学习和表示解耦。通过在频率域提取多视图表示，并基于不同频率之间的互信息重新评估其重要性，本文提出的框架能够有效约束互信息最大化驱动的表示选择，推动多视图对比学习。

    Feb, 2024

  • 多视角图信息瓶颈方法：一种追求一致性和补充性的方法

    本研究提出一种名为 MVGIB 的多视角变分图信息瓶颈原则用于跨视角融合图信息，并使用相互信息约束公式化其共享信息和视角特定信息。经过广泛的图形基准数据集实验表明了所提出方法的卓越效果。

    Oct, 2022

  • DRIBO: 多视角信息瓶颈下的鲁棒深度强化学习

    本研究利用多视角设置引入对比的多视图信息瓶颈目标训练深度强化学习代理程序，从而可以学习到能够保留任务相关信息但压缩掉任务不相关信息的强大的表示，进而训练出具有鲁棒性和泛化性的高性能政策。

    Feb, 2021

  • 最大熵编码的自监督学习

    本研究利用 Maximum Entropy Coding 算法优化表征模型，消除表征偏差，提高模型泛化性能并在多项下游任务上取得最先进的性能表现，证明了该算法可以学习可迁移的自我表征模型。

    Oct, 2022

  • 基于变分信息瓶颈的多模态实体与关系抽取增强

    文章研究了多模态命名实体识别和多模态关系提取的方法，并提出了一种基于信息瓶颈的多模态表示学习方法，该方法在三个公共基准测试上取得了最先进的性能。

    Apr, 2023

  • 基于多视角语义一致性的信息瓶颈聚类方法

    提出了一种新的多视角语义一致性信息瓶颈聚类（MSCIB）算法，通过语义空间的多视角映射对多源信息进行对齐，从而获取有价值的一致信息，已取得最先进的性能。

    Feb, 2023