Sep, 2023

缓解零碎相关性对基于部分的学习的影响

PDF
TL;DR通过创新的正则化方法，本研究指出基于部件的表征可以通过两种方法变得更易解释且泛化能力更强，其中第一种方法通过唯一的部分混合形式将前景和背景信息的生成过程分开，通过弱监督损失对部分施加结构约束，保证前景和背景的部分混合具有软性、与对象无关的掩码。第二个正则化方法则采用蒸馏损失的形式，确保学到的部分对于背景的偶发相关性具有不变性。通过减少偶发背景相关性对学习到的部分的影响，我们在 MiniImagenet、TieriImageNet 和 FC100 等基准数据集上展示出了最先进的少样本学习任务性能，并且还证明了通过我们的方法获得的基于部件的表征在 ImageNet-9 数据集上即使在背景领域转移和常见数据损坏下也能更好地泛化。
intelligent systemspart-based representationsregularization methodsfew-shot learninginterpretable
发现论文，激发创造
  • 图像分类部件自动发现与优化

    本论文介绍了一种可学习的基于特征组的图像分类方法，通过联合学习图像分类器和一组共享的部分来实现，避免了使用引擎启发式算法的过程，并引入了负部分的概念来补足其他方法只寻找正相关性的缺陷。

    Dec, 2014

  • 对比重构中的无监督部件发现

    本研究提出了一种非监督学习方法来发现和分割物体部分，通过像素级别的图像重建配合先前任务的代理目标，得到了一种更有意义的部分分解方法，优于现有的三个基准数据集，提供了一种一致的、可视化的物体语义部分表示。

    Nov, 2021

  • 人物再识别的部分损失深度表示学习

    本研究提出一种基于结构风险最小化的深度表示学习方法，同时考虑了经验分类风险和表示学习风险，使用自动生成的图像部分计算人的分类损失，可以更好地聚焦于整个人体，学习出不同部分的区别性表示。三个数据集上的实验证明了该方法的有效性。

    Jul, 2017

  • 关于学习结构化表示的泛化

    本文旨在研究用结构性表示学习的方法，具体分为解缠结表示与面向对象表示两个方向，以实现从非结构化数据中提取潜在结构信息的目的，同时还探讨了该方法对预训练表示和下游任务泛化能力的提升以及其对于大规模数据的高效表征学习的应用。

    Apr, 2023

  • 从未标注的图像中发现部件并进行数据增强的小样本学习

    本文介绍了一种基于元学习的方法，通过学习无标签图像的传递特征来进行 few-shot 学习，同时采用了基于部分的自监督表示学习和部分增强策略来缓解数据稀缺引起的过度拟合问题，并在 miniImageNet 和 tieredImageNet 的基准测试中表现出优异的性能。

    May, 2021

  • 基于部件的模型提高对抗鲁棒性

    本文介绍结合人类先验知识和端到端学习以提高深度神经网络的鲁棒性，并引入了一种面向目标分类的基于部件的模型，相较于基准模型 ResNet-50，我们的基于部件的模型在三种数据集上实验表明都具有更高的准确性和更高的适应性。

    Sep, 2022

  • 自监督学习目标部分应用于语义分割

    本文介绍了以往自我监督的学习方式大多聚焦于图像级的表示学习，不能为无监督图像分割等需要空间多样的表示的任务带来改进，通过自我监督学习物体部件提出了新的解决途径，并结合目前趋势的 Vision Transformer，利用稠密聚类任务进行空间标记的微调，取得了在语义分割基准测试上超过 17%-3% 的最先进结果，且在完全无监督分割方面也具有重大潜力。

    Apr, 2022

  • PARTICLE: 粒子：细粒度识别的部分发现和对比学习

    我们基于自监督学习开发了细粒度分类和分割任务的表示优化技术，通过识别部分特异变化改进了 fine-grained 分类，在卷积和视觉变换网络中聚类像素表示，利用部分中心化学习和对比在图像中对部分进行聚类，并在多个数据集上展示了在图像分类和部分分割任务上的性能提升。

    Sep, 2023

  • 无监督概念发现减轻虚假相关性

    我们提出了一种用于减轻虚假相关的概念平衡技术，通过利用现有的物体为中心的表示学习方法，无需对子群进行人工标注，在水鸟、CelebA 和 ImageNet-9 基准数据集上进行评估并展示了优越或竞争性的性能。

    Feb, 2024

  • 神经架构归纳偏差对于关系任务的影响

    本研究探讨了在深度学习中通过将关系和感觉信息分隔，以及引入归纳偏差来改善系统的推理性能，并提出了基于相似性分数的简单架构 -- Compositional Relational Network (CoRelNet), 增强了模型的鲁棒性，提高了关系计算的分布外泛化能力。

    Jun, 2022