使用虚拟对抗训练进行分布平滑
提出了一种基于虚拟对抗损失的正则化方法 - 一种关于条件标签分布的局部平滑度的新度量。虚拟对抗损失被定义为每个数据点周围条件标签分布对本地扰动的鲁棒性。我们的方法定义了无需标签信息的对抗方向,因此适用于半监督学习。在多个基准数据集上,通过熵最小化原理实现的 VAT 在半监督学习任务上实现了 SVHN 和 CIFAR-10 的最新性能。
Apr, 2017
本文提出了一种名为 LVAT 的新的规则化方法,将扰动注入潜在空间以生成理解性更强的对抗样本,并在图像分类任务的超视觉和半监督学习情景中使用 SVHN 和 CIFAR-10 数据集验证其性能,证明其优于其他现有方法及 VAT。
Nov, 2020
本文提出了一种 GCN 半监督学习的虚拟对抗训练方法,并通过 GCN Sparse VAT(GCNSVAT)和 GCN Dense VAT(GCNDVAT)算法在标记和未标记数据上进行优化,提高其泛化性能。该方法在 GCN 的 Symmetrical Laplacian Smoothness 上取得了改进,并通过大量实验证实了我们方法的有效性。
Feb, 2019
本研究提出了一种基于局部梯度平滑(LGS)的防御方法来对抗深度神经网络(DNNs)对于局部及可见对抗干扰的敏感性,并在 ImageNet 数据集上与数字水印,JPEG 压缩,TVM 和特征扩张等防御方法相比展示了 LGS 的有效性和鲁棒性。
Jul, 2018
本文基于 graph convolutional networks (GCNs) 提出了 batch virtual adversarial training (BVAT) 的正则化方法,并验证了其在半监督节点分类任务中较好的效果。
Feb, 2019
本文针对半监督学习问题,提出了一种基于流形的切平面与法线平面对抗正则化方法,称作 TNAR。该方法通过在数据流形的切向空间和法向空间上应用虚拟对抗性训练,实现对分类器局部不变性及鲁棒性的提升,在人工和实际数据集测试中取得了优于其他最先进方法的成果。
Aug, 2018
该论文提出了一种基于上下文的虚拟对抗训练方法,通过在上下文级别执行对抗性训练来防止文本分类器过度拟合噪声标签,实验证明该方法对于处理噪声标签非常有效。
May, 2022
本文提出一种叫做 Virtual Mixup Training 的新方法,该方法可以将局部 Lipschitz 约束性应用到训练数据间距的区域中,不需要使用标签信息,适用于无监督域自适应。结果表明,VMT 显著提高了 VADA 在六个领域适应基准数据集上的性能,尤其是将 MNIST 适应到 SVHN 的挑战性任务中,VMT 可以将 VADA 的准确性提高 30% 以上。
May, 2019
本研究旨在开发一种新的计算机辅助诊断 (CAD) 方案,以利用半监督学习对乳腺 X-ray 图像进行良恶性分类,采用虚拟对抗培训方法,提高模型的鲁棒性和分类准确性。
Jan, 2022