将对抗性鲁棒学习降至非鲁棒 PAC 学习
该研究从学习者和第三方认证者的角度正式研究了分类问题,并考虑了半监督学习框架下 VC - 类的适当学习的可能性和不可能性结果。该研究还探讨了黑盒认证在有限查询预算下的黑盒对手视角,提出了一些预测器和扰动类别的分析,并证明了具有多项式查询复杂性的对手的存在可以暗示存在样本高效稳健的学习者。
Jun, 2020
对抗性强健学习的计算要求进行了研究,引入了鲁棒可计算的 CPAC 学习问题,并提供了一些简单的充分条件。同时,展示了该框架的一些令人惊讶的效果,即对于鲁棒 CPAC 可学习性而言,并不需要鲁棒损失是可计算的。引入了可计算鲁棒破碎维度这一新维度,证明了其有限性对于鲁棒 CPAC 学习性是必要的,但不充分。这对于鲁棒 PAC 学习性中相应现象的理解可能会带来新的见解。
Jun, 2024
研究学习对抗性强预测器的问题,表明任何具有有限 VC 维度的假设类都可以通过不正确的学习规则进行强健的 PAC 学习,而不正确的学习规则是必要的,因为我们展示了具有有限 VC 维度的假设类的例子,不能通过任何正确的学习规则进行强健的 PAC 学习。
Feb, 2019
研究在未知扰动集合情况下,通过与攻击者的交互或访问攻击预测器来学习对抗性示例下的鲁棒性预测器问题,并考虑不同交互模型,对预测器假设类的 VC 和 Littlestone 维度进行样本复杂度上界,以及所需交互或成功攻击次数的上下界,无需对扰动集合进行任何假设。
Feb, 2021
通过对多个带敏感性群体的个体进行损失度量,本文提出了用于处理公平性关切的多组无知 PAC 可学习性算法,该算法可以保证在涵盖多个不同的群体时仍能保证所学分类器表现一致,通过联合和扩展以前针对特定损失函数的多组公平性文献中的研究,为包含敏感性群体的学习提供了一个统一的视角。
May, 2021
本文研究机器学习准确率受到恶意攻击的情况下的学习界限问题,扩展了 PAC-learning 框架进行探讨,并考虑对抗性 VC-dimension 的影响。
Jun, 2018
我们研究了在分布无关的对抗性健壮 PAC 模型中半空间的计算复杂度,重点研究了 L_p 扰动。我们提出了一种计算有效的学习算法和一种几乎匹配的计算难度结果。我们发现的一个有趣的含义是,L_∞扰动的情况被证明比 2≤p<∞的情况更加计算上困难。
Jul, 2020
本文研究了鲁棒优化中的过拟合现象,提出了一种不同形式的鲁棒 PAC-Bayesian 边界并通过迹(TrH)正则化器将 PAC-Bayesian 学习与鲁棒损失面的几何形状连接,实验结果证明了该方法能够提高视觉变换器的鲁棒性且计算成本低。
Nov, 2022