小数据集有效训练的替代正则化方法
本文提出了一种名为SamplePairing的数据增强技术,通过随机选择训练数据中的另一幅图像,来合成一张新的图像样本。实验表明,该技术在图像分类任务中能够显著提高分类精度,并且在训练样本数较少的任务中,表现更为突出。
Jan, 2018
本文研究数据增强在卷积神经网络中的隐式规则效应,与显式正则化技术(如权重衰减和Dropout)相比,数据增强能更易于适应不同的网络结构和训练数据。通过对不同网络架构和训练数据量的消融研究,我们揭示了数据增强的优势,这是长期被忽视的问题。
Jun, 2019
利用数据增强作为正则化方式,我们从解析角度重新考虑了数据增强在深度神经网络中的泛化问题,并发现它显著降低了模型泛化误差,但同时也导致略微增加了经验风险。使用较少的数据对完整增强的数据进行训练能够帮助模型更好地收敛于更好的区域,从而进一步提高准确性。
Sep, 2019
本文提出了一种创新的特征提取和扩增方法,利用聚类提取的内部和跨类别原型代表信息,生成各式各样的复杂变换,结合传统图像扩增用于一致性正则化损失,实验验证结果表明在小尺寸数据集上与当前先进技术相当,且可以扩展到更大的数据集,例如 CIFAR-100 和 mini-Imagenet 上取得重大进展,并在 DomainNet 上实现更好的鲁棒性。
Jul, 2020
提供了一个相互正交的在线数据增强方案,同时介绍了三个新的数据增强网络和针对目标学习任务的联合训练。该方案具有更高的效率、更高的适应性和更少的领域知识要求。与当前现有的离线增强方法相比,在与这些方法相结合的情况下,该方案取得了改进,并单独表现与最先进的方法相媲美。
Jul, 2020
本研究针对图像分类器的训练方法进行了探讨,通过元学习算法对支持数据、查询数据和任务进行复杂的抽样,利用数据增强方法不仅可增加每个类别的图片数量,还可生成全新的类别和任务,提高了元学习器在少样本分类基准上的性能。
Oct, 2020
本文介绍了深度学习算法在计算机视觉任务中的性能表现,以及数据增强技术对应对过拟合问题的应用。在这篇文章中,我们提供了数据增强技术的背景知识和综述,通过对现有的数据增强技术进行分类和比较,从而指导研究者选择适合自己的方法。我们还研究了数据增强技术的综合效果,得出结论可以显著提升图像分类、目标检测和语义分割的性能,我们提供了代码用于结果复现,并探讨了该领域未来的研究方向与挑战。
Jan, 2023
本文提出了一种名为AugSub的新型正则化使用方法,该方法包括两个模型:主模型和子模型。 AugSub通过缓解自蒸馏Loss类似的松弛损失函数对抗效应来实现额外正则化的好处;本文进一步验证AugMask在不同的培训配方中的有效性,并通过进行MAE微调和Swin Transformer等验证了AugMask的稳健性。
Jun, 2023
本研究针对传统数据增强方法在扩展数据集时面临的局限性,提出了一种新的自动生成数据增强框架(AGA)。该框架结合了大型语言模型、扩散模型和分割模型的优势,在保留前景真实性的同时,确保背景多样性。实验结果显示,AGA在多个基准数据集上显著提高了准确率,表现出优秀的潜在影响。
Aug, 2024