CVPRAug, 2018

半监督学习的切线 - 法向对抗正则化

PDF
TL;DR本文针对半监督学习问题，提出了一种基于流形的切平面与法线平面对抗正则化方法，称作 TNAR。该方法通过在数据流形的切向空间和法向空间上应用虚拟对抗性训练，实现对分类器局部不变性及鲁棒性的提升，在人工和实际数据集测试中取得了优于其他最先进方法的成果。
semi-supervised learningvirtual adversarial trainingadversarial regularizationdata manifoldclassifier
发现论文，激发创造
  • 虚拟对抗训练：一种用于监督学习和半监督学习的正则方法

    提出了一种基于虚拟对抗损失的正则化方法 - 一种关于条件标签分布的局部平滑度的新度量。虚拟对抗损失被定义为每个数据点周围条件标签分布对本地扰动的鲁棒性。我们的方法定义了无需标签信息的对抗方向，因此适用于半监督学习。在多个基准数据集上，通过熵最小化原理实现的 VAT 在半监督学习任务上实现了 SVHN 和 CIFAR-10 的最新性能。

    Apr, 2017

  • 使用潜空间虚拟对抗训练进行正则化

    本文提出了一种名为 LVAT 的新的规则化方法，将扰动注入潜在空间以生成理解性更强的对抗样本，并在图像分类任务的超视觉和半监督学习情景中使用 SVHN 和 CIFAR-10 数据集验证其性能，证明其优于其他现有方法及 VAT。

    Nov, 2020

  • 半监督学习的对抗性转换

    本文提出了一种基于对抗转化的正则化框架 (RAT) 来提高半监督学习的鲁棒性，研究表明，与现有正则化方法相比，RAT 可以在标准半监督图像分类环境下显著提高分类性能。

    Nov, 2019

  • 用虚拟对抗训练阶梯网络进行半监督学习

    基于分布平滑的半监督深度学习方法和梯度升级生成虚拟对抗训练方法被提出用于降低数据标签的高成本，两种方法被成功整合实现了接近监督准确度。

    Nov, 2017

  • 使用虚拟对抗训练进行分布平滑

    本文提出了一种基于 KL 分歧的局部分布平滑正则方法，称作虚拟对抗训练，用于半监督学习中的神经网络，通过模型分布的稳健性来决定对抗方向，较低的计算成本使得该方法在 MNIST，SVHN 和 NORB 数据集上的性能超过了其他训练方法，除一个高级的生成模型外取得当前最佳表现。

    Jul, 2015

  • 节点分类中基于图卷积网络的虚拟对抗训练

    本文提出了一种 GCN 半监督学习的虚拟对抗训练方法，并通过 GCN Sparse VAT（GCNSVAT）和 GCN Dense VAT（GCNDVAT）算法在标记和未标记数据上进行优化，提高其泛化性能。该方法在 GCN 的 Symmetrical Laplacian Smoothness 上取得了改进，并通过大量实验证实了我们方法的有效性。

    Feb, 2019

  • 用于半监督乳腺肿块分类的虚拟对抗训练

    本研究旨在开发一种新的计算机辅助诊断 (CAD) 方案，以利用半监督学习对乳腺 X-ray 图像进行良恶性分类，采用虚拟对抗培训方法，提高模型的鲁棒性和分类准确性。

    Jan, 2022

  • 基于上下文的虚拟对抗训练在带噪标签的文本分类中的应用

    该论文提出了一种基于上下文的虚拟对抗训练方法，通过在上下文级别执行对抗性训练来防止文本分类器过度拟合噪声标签，实验证明该方法对于处理噪声标签非常有效。

    May, 2022

  • 图卷积网络批量虚拟对抗训练

    本文基于 graph convolutional networks (GCNs) 提出了 batch virtual adversarial training (BVAT) 的正则化方法，并验证了其在半监督节点分类任务中较好的效果。

    Feb, 2019

  • 用神经切线核重新思考对抗训练

    本文使用神经切线核（NTK）对敌对训练（AT）过程和性质进行了深入研究，揭示了数据归一化对 AT 的影响以及批归一化层中无偏估计器的重要性，并通过实验探索了内核动力学和提出了更节省时间的 AT 方法，同时利用内核内的频谱特征解决了灾难性过拟合问题。据我们所知，这是首个利用内核动力学观察改进现有 AT 方法的研究。

    Dec, 2023