May, 2022

人工神经网络稳健训练的分析框架

PDF
TL;DR该研究论文提出了一种正式框架以研究机器学习中敌对示例现象，并利用复分析和全纯性提出了一种针对人工神经网络的稳健学习规则，揭示了该现象与调和函数的联系，并能够解释敌对示例的许多特征，包括可转移性，并为缓解敌对示例的影响铺平道路。
发现论文，激发创造
  • 对抗性样本的（不）可避免性

    该研究提出了一个确定深度学习模型标签更改是否合理的框架，并且定义了一个自适应的鲁棒性损失，使用导出的经验公式，开发了相应的数据增强框架和评估方法，证明了其对确定性标签下的一阶最近邻分类的维持一致性，并提供了实证评估结果。

    Jun, 2021

  • 模式识别中强健对抗训练综述：基础、理论和方法论

    本文全面综述了深度神经网络在模式识别中的鲁棒性问题，尤其是针对对抗样本的鲁棒性训练方法，从基础概念、理论模型、算法方法等不同角度进行了系统、结构化的调查和讨论。

    Mar, 2022

  • 生成自然对抗样本

    本文提出了一种使用生成敌对网络在语义空间中搜索自然和易读的对抗性样本的框架，以验证黑盒子分类器的鲁棒性，并证明该方法可在图像分类，文本蕴含和机器翻译等广泛应用中有效。

    Oct, 2017

  • 对抗样本的有趣特性

    论文研究了神经网络模型的不确定性对于对抗样本的产生具有决定性作用，与体系结构、数据集和训练协议无关，表现为对抗误差具有与对抗扰动大小呈幂律的普适性，通过减小预测熵来提高对抗鲁棒性，在 CIFAR10 上使用神经架构搜索找到更鲁棒的架构。

    Nov, 2017

  • 对抗训练下类人行为的扩展研究

    本文探讨了神经网络对分布偏移的敏感性问题解决方案中的对抗训练，以及了解到神经网络与人类理解不同的处理方式，更进一步地研究对抗训练对于神经网络偏向形状的影响并给出可能的解释，从频率角度分析了其效果。

    Mar, 2023

  • 对抗样本的几何性质

    该研究提出了一种基于几何框架和流形重建方法的方法，以分析对抗样本的高维几何形状，并证明了不同规范的鲁棒性、球形对抗性训练的样本编号和最近邻分类器与基于球面的对抗训练的充分采样条件。

    Nov, 2018

  • 深度分类器抵抗对抗样本鲁棒性的理论框架

    通过拓扑学概念和度量空间的关系，本研究探讨机器学习领域的对抗样本问题，得出了必要和充分的条件来判断分类器在面对对抗样本时是否鲁棒。研究结果表明，即使只有一个不必要的特征，也会影响分类器的鲁棒性，因此正确的特征表示学习对于获得既准确又 robust 的分类器非常重要。

    Dec, 2016

  • 面向神经网络的不可察觉且强韧对抗样本攻击

    该研究提出了一种新的对抗样本攻击方法，考虑到人类感知系统并最大化制作的对抗样本的噪声容忍度，实验结果证明了该技术的有效性。

    Jan, 2018

  • 对抗鲁棒学习理论基础

    本文提出了一种学习算法，旨在解决对抗性示例对机器学习模型的攻击，并尝试通过设计新的算法和理论分析来提高其鲁棒性和性能。

    Jun, 2023

  • 解释和利用对抗样本

    机器学习模型因神经网络的线性特性容易受到对抗性扰动的影响，该现象不同于过拟合和非线性，但可以通过生成对抗性训练样本来减小 MNIST 数据集中 maxout 网络的误差。

    Dec, 2014