Foolbox: 一个用于评估机器学习模型稳健性的 Python 工具箱

Jul, 2017

Foolbox: 一个用于评估机器学习模型稳健性的 Python 工具箱

Foolbox: A Python toolbox to benchmark the robustness of machine learning models

Jonas Rauber, Wieland Brendel, Matthias Bethge

TL;DRFoolbox 是一个用于生成对抗扰动并量化和比较机器学习模型鲁棒性的 Python 包，提供大多数已发布的对抗攻击方法的参考实现，以及与 PyTorch、Keras、TensorFlow、Theano 和 MXNet 等流行的深度学习框架进行互操作，并允许不同的对抗标准和距离度量。

Abstract

Even todays most advanced machine learning models are easily fooled by almost imperceptible perturbations of their inputs. Foolbox is a new Python package to generate such adversarial perturbations and to quantif

machine learning adversarial perturbations robustness adversarial attack methods deep learning frameworks

发现论文，激发创造

Advbox：生成欺骗神经网络的对抗样本工具箱

近年来，神经网络被广泛应用于计算机视觉任务，然而最近的研究表明它们都容易受到对抗性样本的攻击。该研究提供了一种名为 Advbox 的工具箱来生成对抗性样本，并支持 Python 3 以在多个机器学习框架中使用，该工具箱还支持黑盒攻击和针对不同的攻击场景，如人脸识别攻击，防护服攻击和 DeepFake 攻击的评估。

Jan, 2020

DeepFool：欺骗深度神经网络的一种简单而准确的方法

本文提出了 DeepFool 算法，通过欺骗深度神经网络来计算对其进行扰动的鲁棒性，从而比现有方法更好地计算对抗扰动和提高分类器的鲁棒性。

Nov, 2015

BackdoorBox: 用于后门学习的 Python 工具箱

该论文提出了一个名为 BackdoorBox 的 Python 工具箱，实现了代表性和先进的后门攻击和防御，在统一和灵活的框架下。该工具具有三个重要且有前途的特点，包括一致性、简单性、灵活性和共同开发，可帮助研究人员和开发人员轻松地在基准数据集上实现和比较不同方法。

Feb, 2023

通过随机化潜在表示欺骗文本欺骗者

通过随机化输入的潜在表示，我们提出了一个名为 AdvFooler 的轻量级、适应各种攻击方法的防御机制，主要目标是困惑生成对抗样本的过程，从而达到误导对手的效果，并在两个基准数据集上证明近乎最先进的防御能力。

Oct, 2023

计算机视觉模型的黑盒对抗攻击综述

该论文介绍了对各种黑盒对抗攻击和防御技术的全面比较研究，旨在提高模型的鲁棒性。

Dec, 2019

一种基于几何启发的决策攻击

该研究提出了 qFool 算法，它是一种基于决策的攻击算法，可以使用少量的查询生成对抗样本。该算法可以在减少查询数量的同时，在低频子空间中限制对抗扰动，从而使其更具计算效率。最终，该算法在商业图像识别系统中获得了欺骗效果的证明。

Mar, 2019

灰盒对抗训练

本文介绍了对抗性训练及其在构建鲁棒模型方面的应用，提出了新型白盒和黑盒攻击，即灰盒对抗攻击，提出了一种新颖的模型鲁棒性评估方法，并提出了一种新型的对抗性训练：灰盒对抗训练，其使用模型的中间版本来引导敌手生成更加有效的对抗样本，实验证明此方面的成果优于传统方法。

Aug, 2018

使用 DeepFool 算法定制深度神经网络的针对性类别操控的对抗攻击

通过提出 “Targeted DeepFool” 算法，该研究通过在深度神经网络上训练特定的攻击样本来应对对抗攻击，以提高图像质量的完整性和准确性。

Oct, 2023

精准、可靠、快速的鲁棒性评估

在神经网络的研究中，我们开发了一种新的梯度基础的对抗攻击方法，相较于已有的攻击方法，它更可靠，可以适应广泛的对抗标准，并且在提高效率的同时，不需要进行超参数调整，这将对神经网络的鲁棒性评估做出有益的贡献。

Jul, 2019

评分黑盒模型的对抗鲁棒性

研究了深度神经网络对抗攻击的鲁棒性，提出了一种适用于黑盒模型的简单评分方法，并发现更鲁棒的模型具有更小的 LIME 权重 l1 范数和更锐利的解释。

Oct, 2022