Jun, 2020

利用逐层自编码器进行敌对样本检测与分析

PDF
TL;DR本研究提出了一种基于目标网络隐藏层数据表示的机制来检测对抗性样本，该机制训练了目标网络中间层的单独的自编码器，可以描述真实数据的流形，从而判断一个给定的例子是否具有与真实数据相同的特征，并探究对抗性样本在深度神经网络层中的行为。实验结果表明，我们的方法在监督和无监督环境中表现优于现有技术水平。
发现论文，激发创造
  • DLA: 密集层分析用于对抗样本检测

    本文介绍了一种新的端到端框架来检测深度神经网络中可能存在的对抗样本，采用神经元覆盖率引导测试来分析 DNN 的密集层激活模式，以实现实时检测，能够覆盖各种类型的 DNN 架构，包括 LSTM，防御了最先进的攻击，同时提供确保无法轻易绕过的白盒自适应攻击。

    Nov, 2019

  • 使用对抗自编码器实现图像中的稳健异常检测

    研究了一种基于自编码器的图像异常检测方法，发现传统方法在训练时存在离群点时导致异常检测性能降低的问题，使用对抗自编码器引入先验分布可以较好地克服该问题。

    Jan, 2019

  • 使用卷积自动编码器防御对抗性攻击

    基于卷积自编码器的方法提高目标分类器对抗性攻击的鲁棒性，通过生成与输入图像相似的图像来恢复模型的准确性。

    Dec, 2023

  • 使用对抗自编码神经网络探测潜空间中的会计异常

    本研究提出了使用对抗自编码网络来检测会计数据中的欺诈行为，该方法可以学习到现实世界会计分录的语义表示，从而提高了检测方法的可解释性和准确性。实验证明该方法的有效性。

    Aug, 2019

  • 通过分解表示进行自监督的对抗样本检测

    该论文提出了一种名为 DRR 的新方法，它使用自编码器结构进行对抗性样本检测，并采用解缠表示来减少不必要的自编码器泛化能力，能够在视觉任务和自然语言任务中提供抗适应性对抗性攻击，并在各种度量标准下表现出更好的性能。

    May, 2021

  • 生成模型的对抗性示例

    本篇研究探索在变分自编码器（VAE）和 VAE-GAN 等深度生成模型中生成对抗性样本的方法，并提出了三种攻击方式来测试针对 MNIST、SVHN 和 CelebA 数据集训练的网络，分别利用基于分类的对手，直接利用 VAE 的损失函数生成重构图像，以及直接优化源和目标潜在表示之间的差异。

    Feb, 2017

  • 变分自编码器的对抗性攻击

    本文提出了一种新的用于攻击自编码器（autoencoders）的方案，并设计了一个定量评估框架来评估攻击抵抗性。在三个常用数据集上，通过统计验证实验证明带有循环和注意力机制的 DRAW 模型具有更好的抵抗性，这对于自编码器在数据压缩方面的应用十分重要，并引起了更多人对于对抗攻击的关注。

    Jun, 2018

  • 针对变分自编码器的对抗性图像

    研究了对自编码器的对抗攻击，提出了一种畸变输入图像的方法来产生与目标图像不同的自编码器输出，发现自编码器比分类器更抗对抗攻击，同时研究表明，对分类器的常规对抗攻击存在输入畸变和输出误导之间的直接比例关系。

    Dec, 2016

  • 通过对潜空间进行对抗性学习扰动进行异常检测

    本文提出了一种对抗框架，由 Adversarial Distorter 和 Autoencoder 两个部分组成，利用编码器的隐层特征空间中的扰动提高异常检测中对特征的语义表示，实现了对图像和视频数据集上的异常检测的最新性能的提升。

    Jul, 2022

  • 自编码器的分层相关传递解锁

    我们提出了一个快速的可解释性解决方案，通过深度泰勒分解框架扩展层级相关传播方法，引入了一种新的验证技术，与基线方法进行比较，在缺少基础真实数据的情况下突出了所提出的可解释性解决方案的计算和质量方面的优势。

    Mar, 2023