ICMLFeb, 2022

使用确定性有限聚合增强的数据毒化的认证防御

PDF
TL;DR我们提出了一种改进的认证防御技术，称为有限聚合，通过将训练集分成较小的互斥子集，然后将其重复组合，以构建较大的（但不相离）子集来训练基础分类器，从而提高 MNIST，CIFAR-10 和 GTSRB 上的（点对点）认证稳健性，并在保持与 DPA 相同的准确性的同时，将已认证部分提高了 3.05％，3.87％和 4.77％，有效地建立了一种新的数据中毒（点对点）认证鲁棒性的技术。
data poisoning attackscertified defensedeep partition aggregationfinite aggregationempirical evaluation
发现论文，激发创造
  • 深度分区聚合：针对常规攻击进行可证明的防御

    该研究提供了两种新的有证明的防御机制，分别是 Deep Partition Aggregation (DPA) 与 Semi-Supervised DPA (SS-DPA)，针对插入或删除少量样本的威胁模型（即有害污染攻击）提供了证书，并在 MNIST 和 CIFAR-10 数据集上表现优异。

    Jun, 2020

  • 关于数据投毒的致死剂量猜想

    此论文提出了数据污染及其危害的基本概念，阐述了所谓的致命剂量猜想，为开发更强大的数据污染防御策略提供了实用方法，并通过数据扩充来验证 DPA 的有效性。

    Aug, 2022

  • 关于数据污染攻击的聚合防御实践方面

    本论文重点评估了代表聚合防御的 Deep Partition Aggregation 的实用方面，包括效率、性能和鲁棒性，通过使用 ImageNet 进行评估，提供了有价值的洞见，以缓解数据中毒的威胁。

    Jun, 2023

  • 基于随机选择的认证防御数据污染攻击的框架

    该论文提出了一种基于随机选择的认证防御体系抵御数据毒化攻击，能通过平均从训练集中抽样的子数据集的分类器预测来实现认证的鲁棒性，该体系允许用户利用训练集和毒化模型的先前知识提高认证准确性，实验表明该方法优于现有技术水平。

    Sep, 2020

  • 增强抗毒能力：针对中毒攻击的改进点对点认证

    通过利用差分隐私和采样高斯机制，我们的模型对有限数量的有毒样本提供了确保每个测试实例预测不变的保证，从而提供了超过以前认证提供的两倍以上的对抗鲁棒性。

    Aug, 2023

  • 数据毒化攻击的认证防御

    对使用用户提供数据训练的机器学习系统进行的数据毒化攻击问题进行了探讨，构建了数据异常移除后采用经验风险最小化的防御方法下的攻击损失上限并给出了攻击方法，检验了在 MNIST-1-7，Dogfish 数据集上其防御能力较强，而在 IMDB 情感数据集上加入 3% 的毒化数据可将测试误差从 12% 提升至 23%。

    Jun, 2017

  • 拒绝服务或细粒度控制：面向联邦学习的灵活模型投毒攻击

    本文提出了一种灵活的模型中毒攻击方法，即 Flexible Model Poisoning Attack (FMPA)，可以通过使用全局历史信息来构建预测模型并进行微调，达到在没有额外知识的情况下对联邦学习进行攻击的目的，并且可以对全局准确性进行细粒度可控攻击，是目前最优秀的攻击方法之一。

    Apr, 2023

  • 训练时间反欺骗的渐进式有毒数据隔离

    通过渐进隔离被污染数据的新方法 (PIPD)，该论文提出了一种有效的训练策略，以训练一个干净的模型，并降低良性数据被错误分类为污染数据的风险。实验结果表明，PIPD 在多个数据集和 DNN 模型上均表现优异，对多种后门攻击的识别能力显著超过了现有方法。

    Dec, 2023

  • 利用基于强化学习的聚合，在联邦学习中防御复杂的中毒攻击

    通过观察数据分布的稳定性，我们提出了 AdaAggRL，一种基于强化学习的自适应聚合方法，用于防御复杂的恶意攻击。实验证明，该防御模型在四个真实数据集上显著优于广泛采用的防护模型。

    Jun, 2024

  • 强数据增强消除污染和后门攻击，无需牺牲准确率

    该论文发现，在对抗数据污染和后门攻击的情况下，使用强大的数据增强方法，如 mixup 和 CutMix，可以显著减少威胁，同时不会降低性能，并且在后门攻击时，CutMix 大大减轻了攻击，同时增加了 9％的验证准确性。

    Nov, 2020