Nov, 2018

来自加密伪随机生成器的对抗性样本

PDF
TL;DR我们在最近的工作中（Bubeck，Price，Razenshteyn, arXiv:1805.10204）指出，机器学习中的对抗性例子可能是由于问题固有的计算难度造成的。更确切地说，我们构建了一个二元分类任务，其中（i）存在强大的鲁棒分类器；但在（ii）统计查询模型中无法使用有效算法获得任何非平凡的准确性。在本文中，我们显着加强了（i）和（ii）：我们现在构建了一个任务，该任务允许（i'）最大限度地鲁棒的分类器（即它可以容忍与示例本身大小相当的扰动）；此外，我们证明了在（ii'）标准加密假设下学习此任务的计算困难性。
发现论文，激发创造
  • 来自计算限制的对抗性示例

    高维度分类器为何易受到 “对抗性” 扰动？本文中将阐述这种现象可能不是由于信息论的限制，而是由于计算约束所引起的。同时探讨了分类任务的一种特殊情况，即在高维空间中对于对抗扰动较大的学习是容易的，但是具有计算难度的。这种例子带来了对于经典学习和鲁棒性学习之间的计算复杂度的差异的新见解，并建议这种现象可能是学习算法计算能力所限制的必然副产品。

    May, 2018

  • 对抗样本是噪声下测试误差的自然结果

    该研究提供了实证和理论证据表明对抗鲁棒性和图像损坏鲁棒性研究项目之间存在紧密联系，从而建议未来的对抗性防御应该考虑评估它们的方法对分布转移的鲁棒性。

    Jan, 2019

  • 对抗鲁棒学习理论基础

    本文提出了一种学习算法，旨在解决对抗性示例对机器学习模型的攻击，并尝试通过设计新的算法和理论分析来提高其鲁棒性和性能。

    Jun, 2023

  • 对抗鲁棒性泛化需要更多数据

    本文研究在简单自然数据模型中，对抗鲁棒学习的样本复杂度可以显著大于标准学习，这个差距是信息理论的，且与训练算法或模型家族无关。作者做了一些实验来证实这个结果。我们可以假设训练鲁棒分类器的困难，至少部分来自这种固有的更大的样本复杂度。

    Apr, 2018

  • 对抗样本的有趣特性

    论文研究了神经网络模型的不确定性对于对抗样本的产生具有决定性作用，与体系结构、数据集和训练协议无关，表现为对抗误差具有与对抗扰动大小呈幂律的普适性，通过减小预测熵来提高对抗鲁棒性，在 CIFAR10 上使用神经架构搜索找到更鲁棒的架构。

    Nov, 2017

  • 稳健分类中的计算限制和双赢结果

    本文研究了在学习稳健分类器时统计 / 计算权衡的问题，证明了 对于一些分类任务，即使存在计算不受限制的稳健分类器，也不可能得到高效的稳健分类器，而这与计算数论中一些重要的开放问题密切相关。

    Feb, 2019

  • 检测对抗样本的难度与分类相近

    本研究研究如何使分类器对抗性示例具有良好的鲁棒性，但事实上许多防御措施都更加致力于检测受到干扰的输入，作者针对这一目标展开了研究，他们证明了在检测与分类对抗性示例这一问题上存在的一般性困难约束，并阐明了这一结论的重要性和应用前景。

    Jul, 2021

  • 任何分类器的对抗性易受攻击性

    本文研究了对抗扰动现象，并推导了任何分类函数的鲁棒性的基本上界，以及证明了存在跨不同分类器传递的具有小风险的对抗扰动。研究显示了生成模型的关键属性，如平滑性和潜在空间的维度，并提供了信息量大的鲁棒性基线。

    Feb, 2018

  • 鲁棒分类中的计算不对称

    该研究探讨在对抗鲁棒性的背景下，证明攻击 ReLU 分类器是 NP 难题，而在训练期间确保它们的稳健性则是 Σ2_P 难题，同时提出一种名为 Counter-Attack 的方法来证明抵御攻击的有效性。

    Jun, 2023

  • 对抗性样本的（不）可避免性

    该研究提出了一个确定深度学习模型标签更改是否合理的框架，并且定义了一个自适应的鲁棒性损失，使用导出的经验公式，开发了相应的数据增强框架和评估方法，证明了其对确定性标签下的一阶最近邻分类的维持一致性，并提供了实证评估结果。

    Jun, 2021