从博弈论的角度解决对抗性样本的问题,研究攻击者和分类器组成的零和博弈中混合纳什均衡的存在问题,提出了一种优化算法来学习近似实现该博弈价值的分类器混合策略。
Feb, 2021
本文采用博弈论视角研究分类器对抗攻击的鲁棒性,证明了在确定性情况下不存在一个能保证最优鲁棒性的纳什均衡点,并提出了采用随机化方法构建具有鲁棒性的分类器的算法,实验结果验证了该方法的有效性。
Feb, 2020
构建针对普遍对抗性扰动所鲁棒的分类器的零和博弈训练方法,可在多个图像分类数据集上保证分类器的鲁棒性和多用途性。
Sep, 2018
本文研究了对抗攻击的鲁棒性理论,聚焦于随机化分类器并通过统计学习理论和信息论提供了其行为的彻底分析。我们引入了随机化分类器的新鲁棒性概念,在此基础上进行了两项新的贡献:提出了一种新的随机化分类器对抗泛化间隙的上界限和对其进行了一种简单而有效的噪声注入方法来设计鲁棒的随机化分类器。我们还在 CIFAR-10 和 CIFAR-100 标准图像数据集上使用深度神经网络的实验结果证实了我们的发现。
该论文研究了带有多个学习者的对抗性线性回归问题,并通过实验表明,均衡模型相较于传统正则化线性回归,具有更高的鲁棒性。
Jun, 2018
对混合分类器的攻击进行了几何分析,介绍了两个理想的攻击属性(有效性和最大性),并证明了现有的攻击方法不满足这两个属性。最后,介绍了一种具有理论保证的新攻击方法称为格攀攻击,并通过对合成和真实数据集的实验展示了其性能。
Jul, 2023
本研究探讨了深度神经网络面临的对抗攻击问题,提出了随机分类器作为确定性分类器的强大替代品,并且通过实验证明,集成分类器比混合分类器更具抗干扰性。
Feb, 2023
本文研究了三种拟建立鲁棒分类器以对抗对数据的恶意扰动的多分类分类问题模型,证明了每个模型中存在 Borel 可测的鲁棒分类器,并提供了对抗训练问题的统一视角,扩展了与作者在先前工作中启动的最优传输方面的关联,并发展了在多类设置中进行对抗训练和总变差规则化之间的新关联。
Apr, 2023
我们研究了在战略分类设置下设计最优分类器的问题,在这种设置下,分类是游戏的一部分,玩家可以修改其特征以获得有利的分类结果 (同时承担一些成本)。我们的研究主要贡献是:1. 如果目标是最大化分类过程的效率 (定义为准确性减去合格玩家操纵其特征以获得更好结果的沉没成本),则需要使用随机分类器 (即,其中给定特征向量被分类器接受的概率严格在 0 和 1 之间)。2. 在许多自然情况下,施加的最优解 (就效率而言) 具有这样的结构,即玩家永远不会改变其特征向量 (随机分类器的结构使得被分类为 1 的概率的增益不足以证明改变自己的特征的费用是值得的)。3. 观察到随机分类不是从分类器视角看到的稳定的最优响应,并且分类器没有从随机分类器中获益而不会在系统中创建不稳定性。4. 在一些情况下,更嘈杂的信号会导致更好的均衡结果 -- 当涉及到具有不同特征调整成本的多个亚种群时,可以提高准确性和公正性。
May, 2020
深度神经网络中的对抗训练存在过拟合和鲁棒性不足等问题,提出了基于双层博弈的非零和对抗训练框架,通过博弈中玩家优化不同的目标函数,取得了与标准对抗训练算法相当的鲁棒性,且不受过拟合的影响。
Jun, 2023