Feb, 2020

紧紧抱住我！辨别特征对深度网络边界的影响

PDF
TL;DR通过在反向鲁棒性领域借鉴工具并提出一种新视角，本文关注了神经网络决策边界的特性，研究表明神经网络对非判别特征具有高度不变性，其决策边界必须在训练分类器中采用某些特征才能存在，并且决策边界的构建对训练样本的微小扰动极其敏感。
发现论文，激发创造
  • 深度神经网络的决策边界研究：实证研究

    深度学习神经网络中决策边界的演变及其对抗训练的影响等领域的问题研究。

    Feb, 2020

  • 图像分类器的鲁棒性和不变性属性

    本文研究了深度神经网络在噪声环境中的鲁棒性和不变性，提出了快速计算稀疏对抗扰动和数据增强方法，与数据之间的特征联系起来，以实现更可靠的机器学习系统。

    Aug, 2022

  • 通过限制深度神经网络的隐藏空间来进行对抗性防御

    针对深度神经网络易受对抗性攻击的问题，本文提出了一种基于特征重构的防御方法，具体来说，通过将每个类别的特征强制限制在一个凸多面体内，使得网络学习到的决策区域更加独特和远离各个类别的边界，提高了网络的鲁棒性，同时在干净图像的分类性能上不会退化。

    Apr, 2019

  • 深度神经网络的决策边界特征化

    本文提出了一种 Deep Decision boundary Instance Generation（DeepDIG）的方法，在决策边界附近通过生成样本来深入理解深度神经网络的工作机制和决策行为多方面特征。在多个数据集上进行了实验和测试。

    Dec, 2019

  • 探究已训练神经网络的决策边界

    通过计算决策边界上的精确点，并提供数学工具来研究定义决策边界的表面，本文旨在确认一些对决策边界的猜测是准确的，某些计算方法可以得到改进，而一些简化假设可能是不可靠的，特别是涉及到非线性激活函数的模型。最后，本文提出了计算实践的改进方法，并揭示了计算决策边界上最接近点的弱点，以此来提高模型对抗攻击的鲁棒性。

    Aug, 2019

  • 探索稳健特征以提升对抗性鲁棒性

    通过分离鲁棒特征和领域特定特征，我们提出了一个鲁棒特征分离模型，以增强模型的对抗性鲁棒性。同时，训练出的领域鉴别器几乎完美地能够识别出干净图像和对抗性样本中的领域特定特征，从而无需额外的计算成本实现对抗性样本的检测。这样一来，我们可以为干净图像和对抗性样本指定不同的分类器，避免了干净图像准确率的降低。

    Sep, 2023

  • 深度神经网络分类区域

    本文研究了深度神经网络在输入空间中的几何属性，通过系统实证研究发现，深度神经网络具有连通的分类区域并且其在数据点附近的决策边界在大多数方向上是平坦的，同时该文进一步证明了深度神经网络曲率决策边界的本质联系，最终提出了一种基于决策边界曲率的小型对抗样本检测方法。

    May, 2017

  • 调整决策边界用于类别不平衡学习

    本论文中，我们提出了一种新方法来解决神经网络训练中出现的类不平衡问题，这种方法旨在画出更好的决策边界并缩放权重向量，从而实现优秀的性能结果。

    Dec, 2019

  • 利用最近邻居改善分类器的决策边界

    神经网络训练中，决策边界位于训练数据密度低的区域，受到少数训练样本的影响容易导致过度拟合；我们提供了一种简单的算法，通过对样本及其最近邻的预测（在潜在空间中计算）进行加权平均，以优化神经网络在标签噪声、对抗攻击、分类准确性等方面的性能。

    Oct, 2023

  • 深度特征分布的可迁移扰动

    该研究提出了一种基于类别和层次深度特征分布建模和利用的新型对抗攻击方法，其可实现针对未受保护的 ImageNet 模型的最先进的有针对性的黑盒转移攻击结果，并且具有攻击过程可解释性和可解释性的优先级。

    Apr, 2020