黑盒认证与对抗扰动下的学习

Jun, 2020

Black-box Certification and Learning under Adversarial Perturbations

Hassan Ashtiani, Vinayak Pathak, Ruth Urner

TL;DR该研究从学习者和第三方认证者的角度正式研究了分类问题，并考虑了半监督学习框架下 VC - 类的适当学习的可能性和不可能性结果。该研究还探讨了黑盒认证在有限查询预算下的黑盒对手视角，提出了一些预测器和扰动类别的分析，并证明了具有多项式查询复杂性的对手的存在可以暗示存在样本高效稳健的学习者。

Abstract

We formally study the problem of classification under adversarial perturbations from a learner's perspective as well as a third-party who aims at certifying the robustness of a given black-box classifier. We analyze a PAC-type framework of →

classification adversarial perturbations semi-supervised learning black-box certification adversarial examples

发现论文，激发创造

未知扰动集下的对抗性鲁棒学习

研究在未知扰动集合情况下，通过与攻击者的交互或访问攻击预测器来学习对抗性示例下的鲁棒性预测器问题，并考虑不同交互模型，对预测器假设类的 VC 和 Littlestone 维度进行样本复杂度上界，以及所需交互或成功攻击次数的上下界，无需对扰动集合进行任何假设。

Feb, 2021

计算机视觉模型的黑盒对抗攻击综述

该论文介绍了对各种黑盒对抗攻击和防御技术的全面比较研究，旨在提高模型的鲁棒性。

Dec, 2019

认证性黑盒攻击：保证对对手生成的对抗样本攻击成功

本文旨在通过设计随机化查询方法和几种新的技术手段，实现对黑盒模型进行有效的对抗攻击，并维护可证明的攻击成功率。作者在 CIFAR10 和 ImageNet 数据集上进行了全面评估，结果验证了这种新型攻击方法的有效性。

Apr, 2023

将对抗性鲁棒学习降至非鲁棒 PAC 学习

通过将对抗性鲁棒学习简化到标准的 PAC 学习问题，即仅使用黑盒非鲁棒性学习器学习鲁棒性预测器的学习复杂度，我们提供了一个降低学习复杂度的方法，并证明了其数学上的正确性。同时，我们也给出了一个必要的下界。

Oct, 2020

具有查询次数和信息限制的黑盒对抗攻击

本文通过定义三种现实世界分类系统的威胁模型（查询限制，部分信息和仅标签），并开发了新的攻击方法，成功的攻击了一个 ImageNet 分类器，并成功的突破了 Google Cloud Vision API 的限制来进行有针对性的黑盒攻击。

Apr, 2018

黑盒对抗迁移性：一个基于网络安全的经验研究

在网络安全领域中，人工智能的快速发展引起了重大安全关注，深度学习模型在对抗性攻击中的脆弱性是主要问题之一，该研究的关键贡献是在网络攻击检测系统中经验性地测试黑盒对抗转移现象，并验证了任何深度学习模型都极易受到对抗攻击的影响，即使攻击者无法访问目标模型的内部细节，白盒对抗攻击相比黑盒对抗攻击具有更严重的影响。因此，有必要研究和探索对抗性防御技术以增强深度学习模型对对抗攻击的鲁棒性。

Apr, 2024

针对实例目标的中毒下的学习与认证

本篇研究了针对神经网络的实例定向毒化攻击，并给出了 PAC 学习和认证的可行性，同时发现实验结果表明，很多模型，特别是最先进的神经网络模型，确实容易受到这种攻击的威胁。

May, 2021

玩转通用对抗扰动游戏

构建针对普遍对抗性扰动所鲁棒的分类器的零和博弈训练方法，可在多个图像分类数据集上保证分类器的鲁棒性和多用途性。

Sep, 2018

灰盒对抗训练

本文介绍了对抗性训练及其在构建鲁棒模型方面的应用，提出了新型白盒和黑盒攻击，即灰盒对抗攻击，提出了一种新颖的模型鲁棒性评估方法，并提出了一种新型的对抗性训练：灰盒对抗训练，其使用模型的中间版本来引导敌手生成更加有效的对抗样本，实验证明此方面的成果优于传统方法。

Aug, 2018

基于随机平滑的黑盒认证：一种基于函数优化的框架

通过一种新的框架，使用非高斯噪声和更广泛类型的攻击来实现在深度学习中的认证鲁棒性，并且比之前的方法提供更好的认证结果和新的随机平滑方法的视角。

Feb, 2020