Jun, 2023

应对变化：学习细粒度视觉分类不变和最小充分表示

PDF
TL;DR通过适用于不变风险最小化和信息瓶颈原理的方法，从泛化的角度解决细粒度视觉分类问题，并应用 Rényi 的 α- 阶熵和软环境分割方案来训练模型，以学习不变和最小化的表示。实验证实了该方案在细粒度视觉分类中能显著提高性能。
fine-grained visual categorizationiriminformation bottleneck principlerényi's α-order entropygeneralization perspective
发现论文，激发创造
  • R2-Trans: 细粒度视觉分类中的冗余减少

    本文提出了一种新颖的 Fine-grained visual categorization (FGVC) 方法，可以同时运用环境线索中局部但足够区分的信息和对目标类别下的冗余信息进行压缩，通过计算批次中高权重区域的比例和自适应阈值，实现了输入空间中背景信息的适度提取。此外，本文还使用信息瓶颈方法指导网络在特征空间中学习最小充分表示。实验结果表明，此方法在三个常用基准数据集上表现优于其他最先进的方法和基线模型。

    Apr, 2022

  • 不变表示的鲁棒评估

    我们提出了一种用于评估基于不变风险最小化方法的不变性能的新方法，并通过大量的数值研究证明了其有效性。

    Apr, 2024

  • 自监督学习：解耦群表示作为特征

    本研究提出迭代分割不变风险最小化（IP-IRM）算法，用于跨越简单的数据增强特征，对抽象语义进行对比学习，以实现对视觉表示力的进一步提升。该算法通过对训练样本的划分和最小化固定子不变对比损失，最终收敛到完全解耦的语义表示，且在各项基准测试中表现良好。

    Oct, 2021

  • 不变信息瓶颈用于域泛化

    本文提出了一种新的不变信息瓶颈（IIB）的域泛化方法，它采用互信息的变分形式来为非线性分类器开发可处理的损失函数，以实现最小化不变风险和减轻伪不变特征和几何偏移对模型的影响。在合成数据集上，IIB 可以显著优于 IRM（不变风险最小化），并且在实际数据集上平均优于 13 个基线方法 0.9％。

    Jun, 2021

  • 学习域不变表示特征的条件熵最小化原则

    提出了一种基于条件熵最小化原则的框架，用于过滤混入小说不变特征的不变特征，以增强新算法的泛化能力。

    Jan, 2022

  • 最大熵细粒度分类

    本论文提出一种基于最大熵学习的卷积神经网络训练方法，以提高细粒度视觉分类任务的表现，并在此基础上取得了最新成果。该方法具有鲁棒性，可适用于各种类似问题的解决。

    Sep, 2018

  • 多阶段度量学习实现细粒度视觉分类

    本研究提出了一种多阶段度量学习框架，针对细粒度视觉分类中高维特征向量的学习问题，通过距离度量学习解决了相互关联且难以区分的子类别和大量内部类差异等问题，并在 FGVC 基准数据集上取得了显著的性能提升。

    Feb, 2014

  • 使用局部变换学习不变表示

    本文提出了一个新颖的具有转换不变性的特征学习框架，将线性转换纳入特征学习算法中，可应用于无监督学习方法，如自动编码器或稀疏编码，证明在 MNIST 变化，CIFAR-10 和 STL-10 等图像分类基准数据集上具有优越的分类性能并在 TIMIT 数据集上实现了最先进的电话分类任务的结果。

    Jun, 2012

  • 通过部分不变性学习最佳特征

    通过学习来自多个环境的数据，提出在模型学习中，使用部分不变性（Partial Invariance）来放宽 Invariant Risk Minimization（IRM）的假设条件，从而在语言和图像数据上进行实验并得出结论。

    Jan, 2023

  • 不变风险最小化

    介绍了不变风险最小化 (IRM) 的学习模式，通过学习数据表示来估计多个训练分布之间的不变关系，从而实现在所有训练分布上匹配最优分类器，通过理论和实验表明，IRM 学习到的不变性与控制数据的因果结构相关，并能够实现分布外概括。

    Jul, 2019