MISLEAD：误导性地操作选定特征对逃逸攻击欺骗学习 Epsilon

Apr, 2024

MISLEAD：误导性地操作选定特征对逃逸攻击欺骗学习 Epsilon

MISLEAD: Manipulating Importance of Selected features for Learning Epsilon in Evasion Attack Deception

Vidit Khazanchi, Pavan Kulkarni, Yuvaraj Govindarajulu, Manojkumar Parmar

TL;DR我们提出了一种结合 SHapley Additive exPlanations（SHAP）进行特征重要性分析和创新的 Optimal Epsilon 技术进行逃逸攻击的方法，旨在解决机器学习模型中对抗性攻击导致的可靠性问题。通过对多种机器学习架构进行评估，结果表明该技术在生成对抗样本方面具有精确性，突显了其在操纵模型结果方面的有效性。本研究强调了在机器学习系统中持续评估和监控的重要性，以识别和减轻潜在的安全风险。

Abstract

Emerging vulnerabilities in machine learning (ML) models due to adversarial attacks raise concerns about their reliability. Specifically, evasion attacks manipulate models by introducing precise perturbations to

machine learning adversarial attacks evasion attacks shapley additive explanations optimal epsilon technique

发现论文，激发创造

机器学习逃避攻击的解释引导诊断

本文介绍了一个新的框架，利用可解释的机器学习方法来指导高保真度评估机器学习逃避攻击，使用恶意软件和图像分类器进行综合评估，揭示了对抗样本与其上的对应扰动之间的关联差距，并展示了该方法对于评估机器学习模型鲁棒性的广泛使用。

Jun, 2021

测试时针对机器学习的逃避攻击

本文研究了机器学习在安全敏感应用中的应用，提出了一种基于梯度的方法来评估分类算法在对抗攻击下的安全性，并针对 PDF 文件中的恶意软件检测任务进行了实验，同时提出了一些相应的反制措施。

Aug, 2017

使用机器学习和 Shapley 加性解释（SHAP）方法对分布式拒绝服务（DDoS）攻击检测进行分类和解释

该研究提出了一个框架，利用机器学习和可解释的人工智能技术，分类和识别 DDoS 攻击的合法流量和恶意流量，在使用 SHAP 进行解释后的分类器模型中，该模型的性能表现高于 99％的准确性。

Jun, 2023

对抗性特征选择抵御逃避攻击

该研究探讨了特征选择在对抗性环境下的安全性问题，并提出了一种面向对抗攻击的特征选择模型，以提高分类器的安全性。实验结果表明，该模型在垃圾邮件和恶意软件检测等应用场景具有较好的效果。

May, 2020

当可解释性遇上对抗学习：使用 SHAP 签名检测对抗样本

本文介绍了一种新的检测方法，该方法使用计算深度神经网络分类器的内部层的 Shapley 加性解释（SHAP）值来区分正常和对抗输入。通过针对流行的 CIFAR-10 和 MNIST 数据集构建数据集，训练基于神经网络的检测器去区分正常和对抗性输入，并评估了该方法在对抗攻击生成的对抗性数据上的检测能力。结果表明，该检测器具有高的检测准确性和对使用不同攻击方法生成的对抗性输入的强大泛化能力。

Sep, 2019

LIME 和 SHAP 欺骗：对事后解释方法的对抗攻击

本文提出一种新型的脚手架技术可以隐藏任何给定分类器的偏见，并演示了该技术如何可以欺骗常见的解释技术如 LIME 和 SHAP 生成无害的解释而不反映潜在的偏见。

Nov, 2019

利用 Shapley 估计的少样本背景防御

本研究提出了一种名为 Shapley Pruning 的新方法，利用 Shapley 值识别受攻击感染的神经元并修剪掉尽可能多的神经元，保护神经网络在数据不充足情况下（每类别只有 1 张图片甚至没有数据）的结构和精度，证明了该方法对抗不同攻击和任务的有效性和鲁棒性。

Dec, 2021

URET: 通用鲁棒性评估工具包（用于规避）

我们提出了一个新的框架，可以生成不同输入类型和任务领域的语义正确和功能性对抗性输入，并展示了生成对抗性示例的重要性以便部署缓解技术。

Aug, 2023

利用保守特征提高机器学习分类器抵抗实现逃避攻击的鲁棒性

通过考虑简化的攻击特征空间模型来设计鲁棒的人工智能模型，可以在检测 PDF 格式恶意软件时提高效果。在研究中发现，仅依靠特征空间模型的效果有限，但增加保留特征可以显著提高性能。此外，当面临各种恶意软件的攻击时，特征空间模型具有更广泛的鲁棒性。

Aug, 2017

特征选择是否安全抵御针对训练数据的攻击？

本文研究对抗性环境下的机器学习，特别是针对恶意攻击者注入有害数据时，特征选择会否带来益处或副作用的问题，并提供了一种框架来研究流行的特征选择方法的鲁棒性，结果表明特征选择方法在受到攻击下会受到较大影响，强调了需要特定的应对措施。

Apr, 2018