AAAIDec, 2020

最近邻居对数据恶意植入和后门攻击的认证鲁棒性

PDF
TL;DR利用 kNN 和 rNN 内在的多数投票机制可以提供针对数据污染攻击和后门攻击的保护，并且我们的评估结果表明 kNN 和 rNN 的内在保护机制胜过目前最先进的合格防御。
data poisoning attacksbackdoor attackscertified defensesknnrnn
发现论文，激发创造
  • KNN 数据毒化鲁棒性的系统化测试

    提出了一种基于系统化测试的方法来证明和证伪 k - 最近邻（KNN）算法的数据污染鲁棒性，该方法在抽象域中进行超逼近分析，缩小搜索空间，在具体域中进行系统化测试，查找实际违规情况，并显著优于现有技术。

    Jul, 2023

  • 基于随机选择的认证防御数据污染攻击的框架

    该论文提出了一种基于随机选择的认证防御体系抵御数据毒化攻击，能通过平均从训练集中抽样的子数据集的分类器预测来实现认证的鲁棒性，该体系允许用户利用训练集和毒化模型的先前知识提高认证准确性，实验表明该方法优于现有技术水平。

    Sep, 2020

  • 深度 k-NN 防御干净标签数据毒化攻击

    本论文提出了一种有效的深度 k-NN 策略作为可靠的防御干净标签攻击的方法，并在 CIFAR-10 数据集上展示了它的高检测准确性、识别出超过 99% 的攻击性样本并能有效地去除它们，同时无损模型性能。

    Sep, 2019

  • 图像分类器后门数据污染攻击的系统评估

    本文系统评估了包括触发器模式、回归技术、模型体系结构及数据集在内的不同实验条件，并研究后门数据污染攻击的成功率及其可被检测的难度。

    Apr, 2020

  • 数据毒化攻击的认证防御

    对使用用户提供数据训练的机器学习系统进行的数据毒化攻击问题进行了探讨，构建了数据异常移除后采用经验风险最小化的防御方法下的攻击损失上限并给出了攻击方法，检验了在 MNIST-1-7，Dogfish 数据集上其防御能力较强，而在 IMDB 情感数据集上加入 3% 的毒化数据可将测试误差从 12% 提升至 23%。

    Jun, 2017

  • 更强的数据投毒攻击突破数据清洗防御

    本文研究机器学习模型在训练时通过数据毒化攻击注入恶意数据点的危害以及数据清洗防御措施的不足。通过协调毒化点放置位置和基于约束条件设计攻击的方式，开发三种不同方法规避现有的数据清洗防御措施。这些攻击方法均基于耗时的二级规划问题，并通过影响函数，极小 - 极大假说和 Karush-Kuhn-Tucker（KKT）条件来实现。我们的实验结果表明需要开发更稳健的数据清洗防御措施以应对数据毒化攻击的威胁。

    Nov, 2018

  • 基于随机平滑的防御策略对数据污染有多强健？

    本研究发现了一种对具有证明鲁棒性的分类器构成威胁的数据污染攻击，并提出了一种新型双层优化数据污染攻击，可降低其整个目标类别的平均有保障半径（ACR），以及降低 30％以上的目标类别平均有保障半径（ACR）

    Dec, 2020

  • RAB: 防篡改攻击的可证明鲁棒性

    本研究提出了通过随机平滑技术来确保深度神经网络对于各种威胁模型的健壮性，同时证明了所提出的健壮性训练过程的健壮性边界，并在 MNIST、CIFAR-10 和 ImageNette 数据集上进行了可靠性评估，该研究成果有助于更强大的机器学习模型的开发。

    Mar, 2020

  • 毒药为疗法：在深度神经网络中检测和中和可变大小的后门攻击

    提出了一种有效的对抗性样本（backdoor）防御方法，它由多个子模块组成，能够在检测到 backdoor 的同时进行筛选清洗，并通过提取毒信号的方式中和攻击。该防御方法在 CIFAR10 数据集上针对 9 种不同的目标基类配对均表现出较好的效果。

    Nov, 2019

  • 基于梯度训练的数据污染的认证鲁棒性

    现代机器学习流程利用大量公开数据，导致无法保证数据质量，使得模型容易遭受中毒和后门攻击。本论文提出了一个框架，首次提供了有关使用潜在操纵数据进行训练的模型行为的可证明保证。该框架通过使用凸松弛来近似计算可能的参数更新集合，限制了任何梯度下降学习算法的所有可达参数集合，并提供模型性能和后门成功率的最坏情况行为的界限。该方法在能源消耗、医学成像和自动驾驶等应用的多个真实世界数据集上进行了演示。

    Jun, 2024