May, 2022

深度神经网络的学习偏好：单像素快捷方式

HTML
PDF
TL;DR本研究提出了一种名为单像素快捷方式 (OPS) 的方法，使用受保护的图像生成无法学习的数据集CIFAR-10-S，该数据集几乎可以使训练的CNN模型表现得像未受过训练一样。该方法利用针对图像中单个像素的扰动，且该扰动不易被消除，并针对同一类别图像采用固定位置和目标值进行扰动生成OPS，以极低的计算成本 (不使用DNN生成器) 对CNN模型进行攻击。
发现论文，激发创造
  • 用混合整数规划评估神经网络的鲁棒性

    本文提出了一种基于混合整数规划的验证方法，对分段线性神经网络进行验证，以评估其对于对抗样本的脆弱性；通过紧凑的非线性公式和新颖的预处理算法实现了两到三个数量级的计算速度提升，并成功确定了 MNIST 分类器对于一定幅值下的对抗精度，相较于同类算法提供更好的证明。

    Nov, 2017

  • 废物利用：通过对抗样本抵抗对抗样本

    通过在预先训练好的外部模型上找到敌对样本，我们将有害的攻击过程转化为有用的防御机制，并且我们的防御方法比先前的方法更为强大和经济。

    Nov, 2019

  • 揭示对范数受限对抗样本的对抗训练极限

    探索对抗训练的极限，发现了通过结合更大的模型、Swish/SiLU激活函数和模型权重平均化可以训练出强健模型，同时在CIFAR-10和CIFAR-100数据集上有了大幅度的提升。

    Oct, 2020

  • 不可学习的样本：使个人数据无法被利用

    本文提出了一种错误最小化的噪声类型，可以防止深度学习模型从个人数据中学习，这种噪声对人眼不可见，可以应用于面部识别等实际场景，并在样本和类别形式下取得了实证效果，从而对防止数据滥用奠定了重要基础。

    Jan, 2021

  • 强韧的不可学习样本：保护数据抵御对抗学习攻击

    通过引入具有鲁棒性的噪声，设计了一种新的方法来生成稳健的不可学习样本，以缓解数据被未经授权地用于深度学习模型培训的风险，并且实验证明稳健的比起常规误差最小化噪声更加有效。

    Mar, 2022

  • 重新思考针对深度神经网络的数据可用性攻击

    本文介绍了一种优化方法，可提高可用性攻击方法的效果，减少计算时间要求，以解决商业目的的个人数据的非授权使用和私人数据的暗地收集，同时避免了当前许多攻击方法被对抗性训练所削弱的问题。

    May, 2023

  • 深度神经网络中对抗性样本的可迁移性调查

    深度神经网络的关键问题之一是对抗性攻击和转移性，考虑到安全性和未来的发展，需要加强对抗性漏洞的防御。

    Oct, 2023

  • 稳定的不可学习样例：通过稳定的最小化误差噪音增强不可学习样例的鲁棒性

    通过引入稳定的误差最小化噪声（SEM），我们进一步提高了无法学习示例的鲁棒性，通过针对随机扰动而不是耗时的对抗性扰动来训练防御性噪声，提高了防御性噪声的稳定性，从而在CIFAR-10、CIFAR-100和ImageNet Subset上实现了最新的性能。

    Nov, 2023

  • 用基于像素的图像变换破坏基于卷积的无法学习的数据集

    通过随机的乘法变换和插值操作，我们成功地提出了一种抵御基于卷积的无法学习数据集的全新图像破坏方法，有效地抑制了基于卷积的无法学习数据集中的乘法噪声的影响，并且在实验证明我们的方法对于这种类型的数据集是最有效的。

    Nov, 2023

  • 通过速率约束的变分自编码器净化无法学习的示例

    我们提出了一种新的预训练净化方法，利用离散变分自动编码器（D-VAE）来解缠扰动，并采用两阶段净化方法，以消除扰动并在各种情景下确保有效性和鲁棒性。

    May, 2024