Oct, 2023

探索数据扩增在自监督/半监督/全监督预训练模型上的应用

HTML
PDF
TL;DR数据增强已成为视觉预训练模型的标准组成部分，用于捕捉增强视图之间的不变性。本研究通过实证研究来量化数据增强对性能的影响，发现图像的区域遮盖减少了学到的特征嵌入的不变性，同时提供了更多的多样性。手动注释不会改变学到的特征嵌入的不变性或多样性。MixUp方法在多样性方面得到了显著改善，对不变性只有轻微的降低。
发现论文，激发创造
  • 目标检测数据增强策略的学习

    本研究研究了数据增强对目标检测的影响和作用，探究了深度学习模型训练中利用学习的特殊数据增强策略来优化模型的表现，并在COCO数据集上证明了其有效性，最终提高了50.7 mAP的检测精度。

    Jun, 2019

  • 数据增强再探讨：重新审视干净数据和扩充数据之间的分布差距

    利用数据增强作为正则化方式，我们从解析角度重新考虑了数据增强在深度神经网络中的泛化问题，并发现它显著降低了模型泛化误差，但同时也导致略微增加了经验风险。使用较少的数据对完整增强的数据进行训练能够帮助模型更好地收敛于更好的区域，从而进一步提高准确性。

    Sep, 2019

  • 通过背景增强对自监督学习的鲁棒性进行表征和改进

    通过引入背景增强技术，加强自监督学习中对物体的语义关注， 系统调研发现其在多个自监督学习任务中均有大幅提升效果，并成为有监督学习的有力竞争者，并在无监督显著性检测方面取得进展。

    Mar, 2021

  • 自监督学习与数据扩充可证明地隔离内容与样式

    该研究针对自我监督表示学习中的数据增强方法进行理论分析，将数据增强通过构建潜变量模型实现，同时研究其在潜空间的统计和因果依赖关系，提出作者的理论和实验发现对于保留数据的不变性有较好的效果。

    Jun, 2021

  • 为什么自监督模型能够迁移？——探究不变性在下游任务中的影响

    本文研究了自监督学习在图像中表征学习的应用，通过对比实例匹配方法，我们发现不同的视觉任务需要不同的数据扩充策略，并且使用具有互补不变性的表征方法可以提高各种下游任务的表现。

    Nov, 2021

  • MAST: 带掩码的数据增强子空间训练，用于具有一般性自监督先验知识

    本文提出了一种名为MAST的方法，通过学习不同数据增强的先验知识来在单个特征空间中根据任务要求建模不变性，实现在不知道任务信息的前提下进行自监督特征学习，并通过不确定性建模来解决强增强的相似性失配问题，结果表明该方法可显著提高自监督学习通用性和泛化性能。

    Mar, 2023

  • Tied-Augment：控制表示相似度改进数据增强

    提出一种称为Tied-Augment的通用框架，通过为损失添加一个简单的项来控制失真下表示的相似性，以提高数据增强在广泛应用中的效能，从而改善半监督学习，优化和数据增强方法的表现。

    May, 2023

  • 理解数据增强的有害类级效应

    数据增强（DA）对模型在图像分类任务中的性能具有关键影响，然而，最近的研究表明，DA的影响可以高度依赖于类别：达到最佳的平均准确率会显著损害个别类别准确率，如在ImageNet上可降低20%。本研究通过使用更高质量的多标签注释系统地对受影响的类别进行分类，发现大部分类别具有固有的模糊性、共现性或细粒度差异，而DA会控制模型对紧密相关类别的偏好。通过基于该框架的简单类别条件的增强策略，我们改善了负面影响类别的性能。

    Dec, 2023

  • 增强方法与算法：自监督学习中的有效途径

    我们研究了自监督学习中数据增强、预训练算法和模型架构的相对效果。通过比较多个著名的自监督学习方法，我们发现增强技术对性能的改进更为显著，而许多算法改进只有微小的影响。我们的发现挑战了自监督学习主要由算法改进主导的预设，并指出多样的增强方法以及数据和模型规模是自监督学习近期进展的更为关键的因素。

    Mar, 2024

  • 自监督对比学习的特征增强：更深入的探讨

    本研究针对自监督对比学习中数据增强引入的视图变异性问题，提出特征增强方法，以提升训练数据的多样性，进而增强预训练模型的泛化能力和鲁棒性。研究显示，将特征增强集成到实例区分或实例相似性范式中，可以显著提升预训练特征学习的表现，并在下游图像分类和目标检测任务中实现更好的泛化效果。

    Oct, 2024