AAAIDec, 2020

多标签分类器的回避攻击性特征化

PDF
TL;DR在多标签学习系统中，我们研究了逃避攻击这个有趣但鲜为人知的研究课题，通过使用贪婪标签空间探索，我们进一步提出了一种有效的经验攻击性估计器，它具有可证明的计算效率和近似精度。实验结果验证了揭示的攻击能力因素和拟议的经验攻击性指标的有效性。
evasion attackmulti-label learning systemsadversarial vulnerabilityempirical attackability estimatorreal-world datasets
发现论文，激发创造
  • 针对对抗性强鲁棒多标签分类的攻击可转移性特征描述

    该研究针对多标签分类器的非目标逃避攻击，研究攻击的传递能力和分类器的易攻性，提出软攻击性评估器，通过集成传递能力调整正则项到多标签学习范式，实现对抗鲁棒分类。在真实数据上的实验研究验证了多标签学习方法的有效性。

    Jun, 2021

  • 测试时针对机器学习的逃避攻击

    本文研究了机器学习在安全敏感应用中的应用，提出了一种基于梯度的方法来评估分类算法在对抗攻击下的安全性，并针对 PDF 文件中的恶意软件检测任务进行了实验，同时提出了一些相应的反制措施。

    Aug, 2017

  • 机器学习逃避攻击的解释引导诊断

    本文介绍了一个新的框架，利用可解释的机器学习方法来指导高保真度评估机器学习逃避攻击，使用恶意软件和图像分类器进行综合评估，揭示了对抗样本与其上的对应扰动之间的关联差距，并展示了该方法对于评估机器学习模型鲁棒性的广泛使用。

    Jun, 2021

  • 对抗规避攻击的攻击树分析

    该研究提出了一种使用攻击树分析逃避攻击风险的量化评估方法，通过引入深度学习和传统攻击节点来表示逃避攻击的各种特征，并提出了构建攻击树的系统性构建过程，最后通过实验验证了该方法的多功能性和有效性。

    Dec, 2023

  • 自然语言对抗攻击中的样本易攻性

    本论文提出了一种针对 NLP 攻击的样本攻击性 / 鲁棒性的定义扩展，实验证明深度学习检测器可以更好地识别针对未知目标模型最易受攻击和最具鲁棒性的样本，但是不同 NLP 攻击方法中没有一致性，解释了攻击性检测方法在攻击方法之间缺乏可移植性的现象。

    Jun, 2023

  • 当措施不可靠时：面向前 $k$ 多标签学习的不可察觉的对抗性扰动

    该论文提出了一种在多标签学习中能够同时迷惑视觉感知和规避度量监测的对抗性攻击方法，并通过对大规模基准数据集的实验表明其优越性。

    Jul, 2023

  • 基于硬标签的小样本黑盒对抗攻击

    提出了一种新的针对硬标签的黑盒攻击的优化方法，利用经预训练的替代模型指导优化过程，实验证明该方法在不同目标模型架构下显著提高了攻击的查询效率，攻击成功率较基准测试提高了约 5 倍，特别是在 100 和 250 个查询预算下。

    Mar, 2024

  • 在暗中变形躲避分类器

    研究黑盒条件下使用得分机制的攻击方法 EvadeHC，该方法在两种 PDF 恶意软件检测器上实现了百分百攻击，大于已知的分类器攻击技术。

    May, 2017

  • 多标签对抗扰动

    研究多标签学习模型的脆弱性和准确性，提出通用的攻击框架来攻击深度神经网络，并设计两个特定方法来生成有针对性的多标签扰动来检测模型的脆弱性，并提出了一种潜在的防御策略来增强多标签深度学习模型的可解释性和鲁棒性。

    Jan, 2019

  • 利用保守特征提高机器学习分类器抵抗实现逃避攻击的鲁棒性

    通过考虑简化的攻击特征空间模型来设计鲁棒的人工智能模型，可以在检测 PDF 格式恶意软件时提高效果。在研究中发现，仅依靠特征空间模型的效果有限，但增加保留特征可以显著提高性能。此外，当面临各种恶意软件的攻击时，特征空间模型具有更广泛的鲁棒性。

    Aug, 2017