Sep, 2023

使用 Reed-Muller 码进行分类、拒绝和恢复

PDF
TL;DRReed-Muller Aggregation Networks (RMAggNet) is proposed as a classifier that can correct and reject inputs, minimizing incorrectness and maintaining good correctness over multiple adversarial attacks.
classifiersadversarial perturbationsclassification-with-rejection methodsreed-muller aggregation networksadversarial attacks
发现论文，激发创造
  • 两种耦合的拒绝度量可以区分对抗性样本

    通过引入可拒绝的机制并使用置信度和修正后的置信度 (R-Con) 来提高鲁棒性，从而更好地检测和拒绝对抗样本。

    May, 2021

  • 对文本分类器的可逆跳跃攻击和修改降维

    提出了两种算法（RJA 和 MMR）来生成高效的对抗样本并提高样本的不可察觉性，并通过广泛实验表明，RJA-MMR 在攻击性能、不可察觉性、流畅性和语法正确性等方面优于当前最先进的方法。

    Mar, 2024

  • 带有拒绝机制的分层对抗鲁棒性

    针对分类器的对抗训练模型中的拒绝选项，根据拒绝代价模型，提出了一种新的防御方法 —— 基于一致性预测的拒绝的对抗训练模型，实验证明在强适应性攻击中具有明显的性能优势。

    May, 2023

  • 深度神经网络抵抗对抗样本攻击

    该研究提出了一种基于深度神经网络的拒绝机制来检测恶意样本，可以有效地防止对抗性攻击，并且具有更高的效率和普适性。

    Oct, 2019

  • 深度径向基网络再探：基于抑制作用的鲁棒分类

    本研究通过提出基于度量学习的成本函数、添加拒绝选项于输出层，成功使深度径向基神经网络变得抗恶意攻击，在 MNIST 数据集上表现出很高的分类准确率。

    Dec, 2018

  • 关于多类分类与拒绝机制的校准

    本文研究了多类别分类问题中的拒绝机制，提出了同时训练分类器和拒绝器的方法，并探讨了针对更广泛损失函数的可接受标准，最终通过实验验证了理论发现的相关性。

    Jan, 2019

  • 使用高斯过程模型检测神经网络中的分类错误

    本文提出了一种基于高斯过程的新框架 RED，以产生一种可靠的误分类错误检测度量，从而改善神经网络分类器的可靠性和可拓展性。该方法的有效性在 125 个 UCI 数据集、两个概率基分类器和两个大型深度学习结构的视觉任务中得到了证实，并能够检测错误并理解其来源。

    Oct, 2020

  • 度量指导的对抗式句子生成

    本文提出了一个 rewrite and rollback（R&R）框架，该框架通过优化批判分数来改进对抗样例的质量，结合流畅度、相似性和错分类度量，提高了对抗样例的质量，并在 5 个代表性数据集和 3 种分类器架构上进行了评估，攻击成功率分别增加了 + 16.2％，+12.8％和 + 14.0％。

    Apr, 2021

  • 针对 ReLU 网络的对抗性样本的鲁棒性证书

    本文提出一种基于深度 ReLU 网络的攻击不可知的稳健性证书，用于多标签分类问题，通过利用 ReLU 网络的分段线性结构，提出了两个距离下界，分别为单纯形证书和决策边界证书，其中单纯形证书具有闭合形式，可微性和计算速度快的特点，并在 MNIST 数据集上验证其理论有效性。

    Feb, 2019

  • 深度神经网络恶意软件分类的对抗扰动

    该研究针对深度神经网络在恶意软件分类中存在的漏洞，通过对对抗样本进行有效构建的攻击，探讨如何构建在样本生成方面更具挑战性的更安全的模型。该研究表明，在对抗样本的制作方面，恶意软件分类与计算机视觉领域之间存在巨大的差异。本文还评估了潜在的防御机制对恶意软件分类的影响，并发现对抗样本的蒸馏和重新训练可以带来很有前途的结果。

    Jun, 2016