May, 2019

学习混淆：使用自编码生成训练时对抗数据

PDF
TL;DR本文提出了一种使用类自编码器的网络生成对训练数据加入扰动的新方法，可以对受害分类器的行为（无论是有目的还是非有目的的）进行操纵并降低其泛化能力。通过实验验证，这种方法可以被应用到各种数据集中，并且具有很好的可迁移性。
training time attackbounded perturbationauto-encodernon-linear optimizationtransferability
发现论文，激发创造
  • 通过对潜空间进行对抗性学习扰动进行异常检测

    本文提出了一种对抗框架，由 Adversarial Distorter 和 Autoencoder 两个部分组成，利用编码器的隐层特征空间中的扰动提高异常检测中对特征的语义表示，实现了对图像和视频数据集上的异常检测的最新性能的提升。

    Jul, 2022

  • 使用卷积自动编码器防御对抗性攻击

    基于卷积自编码器的方法提高目标分类器对抗性攻击的鲁棒性，通过生成与输入图像相似的图像来恢复模型的准确性。

    Dec, 2023

  • 为鲁棒机器学习学习扰动集合

    本研究旨在通过从数据中学习扰动集，以便对鲁棒性进行训练和评估，从而缩小实际世界中的扰动和通常研究的更窄定义的集合之间的差距。使用条件生成器定义扰动集，并使用理想特性来衡量学习的扰动集的质量，理论上证明了条件变分自动编码器自然满足这些标准。最后，使用学习的扰动集来训练模型，使其对敌对图像污染和敌对光线变化具有实证和可证明的鲁棒性，并提高非敌对数据的泛化。

    Jul, 2020

  • 在存在噪声图像中利用条件变分自编码器进行对抗攻击检测

    本研究结合统计假设检验和条件变分自动编码器技术，提出使用 CVAE 来有效检测图像分类网络中的对抗性攻击，并在 MNIST 和 CIFAR-10 数据集上证明了该方法的可行性和效果。

    Nov, 2021

  • 使用对抗自编码器实现图像中的稳健异常检测

    研究了一种基于自编码器的图像异常检测方法，发现传统方法在训练时存在离群点时导致异常检测性能降低的问题，使用对抗自编码器引入先验分布可以较好地克服该问题。

    Jan, 2019

  • 生成（非软件）错误以愚弄分类器

    本文提出了生成自然对抗样本的系统化方法，通过一些自然变化来模仿某种对象或信号，结果表明可以在图像分类模型和语音分类模型中成功生成对抗样本。

    Nov, 2019

  • 通过对比学习和自编码器来改善基于梯度的文本分类对抗训练

    本文提出了两种新的对抗训练方法：一种是在表示空间中缩小原始样本和其对抗样本的距离，同时扩大其与不同标记样本的距离；另一种是将模型迫使在对抗性表示下重构原始样本，实验证明这两种方法在各种文本分类数据集上优于强基线。分析实验证明，我们的方法可以有效提高模型的抗打击能力，同时不显著影响输入句子的语义表示。

    Sep, 2021

  • 针对变分自编码器的对抗性图像

    研究了对自编码器的对抗攻击，提出了一种畸变输入图像的方法来产生与目标图像不同的自编码器输出，发现自编码器比分类器更抗对抗攻击，同时研究表明，对分类器的常规对抗攻击存在输入畸变和输出误导之间的直接比例关系。

    Dec, 2016

  • 生成对抗扰动

    该研究提出了新型生成模型，用于制造近似自然图像但又能欺骗先前训练好的模型的略微扰动的对抗性样本。通过在具有挑战性的高分辨率数据集上的实验，它证明了这种扰动具有高弄虚率和较小的扰动规模，并且比当前的迭代方法更快。

    Dec, 2017

  • 生成对抗性训练器：用 GAN 对抗对抗性扰动

    我们提出了一种新的技术，使用生成对抗网络使神经网络对抗性示例具有鲁棒性，通过交替训练分类器和生成器网络，我们成功地应用于 CIFAR 数据集的监督学习，实验结果表明我们的方法显著降低了网络的泛化误差。这是我们所知道的第一个使用 GAN 改进监督学习的方法。

    May, 2017