ICMLJul, 2023

用元学习生成模型正则化神经网络

PDF
TL;DR该研究论文探讨了提高深度学习的生成数据增强方法。通过利用生成模型产生的合成样本作为附加的小数据集进行分类，生成数据增强能够改善分类效果。研究中提出了一种名为元生成正则化（MGR）的生成数据增强策略，通过在特征提取器的正则化项中使用合成样本来避免性能下降。实验结果表明，MGR 在小数据集上表现优异，有效地提高了基准性能。
generative data augmentationdeep learningsynthetic samplesmeta generative regularizationperformance degradation
发现论文，激发创造
  • 通过元梯度增强改善元学习的泛化能力

    本文从梯度规范化的角度出发，提出了一种数据无关的元梯度增强 (MGAug) 方法，通过网络修剪来打破背诵性记忆，并探讨了三种修剪策略，实验表明该方法在多个 few-shot 学习基准测试中显著提高了性能

    Jun, 2023

  • 元学习的数据增强

    本研究针对图像分类器的训练方法进行了探讨，通过元学习算法对支持数据、查询数据和任务进行复杂的抽样，利用数据增强方法不仅可增加每个类别的图片数量，还可生成全新的类别和任务，提高了元学习器在少样本分类基准上的性能。

    Oct, 2020

  • 基于元学习的信息图增强引导方法

    本文提出通过可学习的图形增强器 MEGA 来生成具有均匀性和信息性的图形增强，有效提高了自我监督学习任务中图形对比学习方法的特征表示能力，并通过多个基准数据集的实验证明了其优越性。

    Jan, 2022

  • MetAug：元特征增强的对比学习

    本文提出一种基于元学习和生成模型的对比学习方法，该方法通过针对性地增强有信息量的特征，避免无用特征的干扰，实现了在少量数据下学习鲁棒性强且表达能力强的特征表示。

    Mar, 2022

  • 元优化合成样本的生成半监督学习

    我们提出了一种使用合成数据集来训练半监督学习模型的方法，该方法通过使用基于生成式基础模型训练的合成数据集来替代真实的未标记数据集，并证明了在极少标记数据集的情况下，合成样本比真实未标记数据更有效地提升性能。

    Sep, 2023

  • 梯度 Dropout 正则化元学习

    本文提出了一种简单而有效的方法，通过在每个参数的内部循环优化中随机删除梯度来缓解基于梯度的元学习的过拟合风险，从而改善了深度神经网络在新任务上的泛化性能。 作者在大量计算机视觉任务上进行了实验和分析，证明了梯度丢失规范化可以缓解过拟合问题并提高各种基于梯度的元学习框架的性能。

    Apr, 2020

  • 生成模型助力弱监督 (反之亦然)

    本研究提出了一种融合程序性弱监督和生成对抗网络的模型，通过对数据的离散潜变量和弱监督派生数据的标签估计进行对齐，从而更好地建模样本相关的弱监督结果的准确性，并通过合成样本实现了数据增强。实验结果表明，所提出的模型在多分类图像分类数据集上表现优异，同时提升了生成图像的质量和最终模型性能。

    Mar, 2022

  • 扩展合成：从有限样本生成大规模数据集

    通过 Expansive Synthesis 模型，从有限样本中生成大规模、高保真度的数据集，提供解决数据稀缺问题的鲁棒方案，为机器学习应用中的数据提供了更强可用性的途径。

    Jun, 2024

  • FMRI 数据增强合成

    本研究使用经典方法和现代隐式生成模型对神经影像数据集进行了合成增广，能够 “改善预测 fMRI 模型的质量”，并且在预测认知和行为结果方面得到了较好的性能提升。

    Jul, 2019

  • GAN 增强：使用生成对抗网络进行训练数据增强

    本文使用生成式对抗网络（GAN）生成的合成数据来增加医学成像训练数据集的样本数量，从而提高监督式机器学习算法对图像分割任务的性能。

    Oct, 2018