ACLNov, 2023

自我互信息：通过自监督多任务学习和辅助互信息最大化实现高效多模式融合

PDF
TL;DR通过自监督学习的方式，利用对比预测编码作为辅助技术最大化单模输入对和多模态融合结果之间的互信息，通过最大化互信息，促进多模态融合与单模态之间更好的对齐，从而提高多模态融合的性能。
multimodal representation learningself-supervised learningmutual informationcontrastive predictive codingmultimodal fusion
发现论文，激发创造
  • 多模态情感分析中的多层次互信息最大化方法改进多模态融合

    本文提出了一种名为多模态信息最大化的框架，通过提高单模态输入对之间的相互信息和多模态融合结果与单模态输入之间的相互信息，以保留任务相关信息，在下游任务中，与主要任务（MSA）一起进行联合训练，以提高下游任务的性能。实验结果证明了我们方法的有效性。

    Sep, 2021

  • 多模式学习系统中的互信息分析

    本文研究了多模态信号处理和分析的应用，通过利用信息计量的概念和 InfoMeter 系统，分析了自动驾驶的大规模数据集中的多模态 3D 物体检测系统，并提出了低模态间信息量对于检测准确性有益的新见解。

    May, 2024

  • 自监督对比学习的约束多视图表示

    基于表示距离的互信息最大化方法用于量化不同视图的重要性，进而实现更高效的对比学习和表示解耦。通过在频率域提取多视图表示，并基于不同频率之间的互信息重新评估其重要性，本文提出的框架能够有效约束互信息最大化驱动的表示选择，推动多视图对比学习。

    Feb, 2024

  • 自我监督多任务学习的多模态情感分析中学习特定于感知模式的表示

    本文设计了一个基于自监督学习策略的标签生成模块，通过联合训练多模态和单模态任务来分别学习一致性和差异，采用权重调整策略来平衡不同子任务的学习进度，验证了自动生成的单模态监督标签的可靠性和稳定性，超过了现有的最先进方法和人工注释的单模态标签。

    Feb, 2021

  • UniS-MMC: 多模态分类方法，通过单模态监督的多模态对比学习

    本文提出了一种新的多模态对比方法，以无单模预测的弱监督下探索更可靠的多模态表示，实验证明该方法优于当前最先进的多模态方法，适用于图像 - 文本分类。

    May, 2023

  • 医学图像分析的多模态自监督学习

    该论文提出了一种利用多个成像模式的新型自监督方法，设计了一个多模式拼图任务以促进多种图像模式的特征表征，提出了一种利用跨模态生成技术进行多模态数据增强的方法，实验表明该方法能够提高数据效率和语义表征，广泛应用于四种不同的下游任务，并取得了领先的成果。

    Dec, 2019

  • 关于表示学习的互信息最大化

    本文讨论自监督学习中互信息最大化方法的局限性，并提出了在特征提取器架构和互信息估算器参数化中彰显归纳偏置的重要性，并展示了这种方法的成功与深度度量学习之间的联系。

    Jul, 2019

  • 跨模态知识蒸馏增强的多模态表征学习

    本文介绍了一种基于多模态表示学习的学生 - 教师框架，并采用了对比学习和对抗学习等方法来优化相互信息和条件熵，以提高视频识别、检索和情感分类等多模态任务的性能。

    Jun, 2023

  • 多标签对比预测编码

    本文提出了一种基于多标签分类问题的新的变分互信息估计器，能够超越对数上界且仍然是互信息的一个有效下界，该方法具有更好的互信息估计性能，在无监督表示学习中实现了实证改进，并在 13 项任务中超越了当前最先进的知识蒸馏方法。

    Jul, 2020

  • 通过最大化视角间相互信息来学习表示

    该研究提出了一种基于最大化共享环境的多视角特征提取之间的互信息来进行自我监督表示学习的方法，并通过使用该方法建立一个模型，该模型学习到的图像表示在 ImageNet 等任务上的表现优于以前的方法。

    Jun, 2019