模式分类器受攻击的安全评估

Sep, 2017

Security Evaluation of Pattern Classifiers under Attack

Battista Biggio, Giorgio Fumera, Fabio Roli

TL;DR本文提出了一种基于经验的分类器安全性评估框架，旨在扩展基于经典设计方法的模式分类理论和设计，以应对对策略性破坏。结果表明，安全性评估可以更完整地了解在对抗环境中分类器的行为，从而导致更好的设计选择。

Abstract

pattern classification systems are commonly used in adversarial applications, like biometric authentication, network intrusion detection, and spam filtering, in which data can be purposely manipulated by humans to undermine their operation. As this adversarial scenario is not taken int

pattern classification adversarial settings classifier security evaluation design methods

发现论文，激发创造

对抗性特征选择抵御逃避攻击

该研究探讨了特征选择在对抗性环境下的安全性问题，并提出了一种面向对抗攻击的特征选择模型，以提高分类器的安全性。实验结果表明，该模型在垃圾邮件和恶意软件检测等应用场景具有较好的效果。

May, 2020

野性图案：逆向机器学习崛起十年后

本文综述了过去十年中关于对抗机器学习领域的研究，讨论了目前深度学习算法等机器学习算法的安全性问题，提出了未来研究中的挑战与相应的应对措施和设计。

Dec, 2017

基于数据的黑盒分类器探索性攻击在对抗领域中的应用

本文提出了一种基于数据推动的黑客攻击方法 —— 基于分类模型的欺骗方法，并通过 Google Cloud Prediction 平台进行了实验验证，发现分类器天生易受攻击，并且可以轻松地进行逃避攻击，这为构建安全的机器学习框架提供了启示。

Mar, 2017

测试时针对机器学习的逃避攻击

本文研究了机器学习在安全敏感应用中的应用，提出了一种基于梯度的方法来评估分类算法在对抗攻击下的安全性，并针对 PDF 文件中的恶意软件检测任务进行了实验，同时提出了一些相应的反制措施。

Aug, 2017

模式识别中强健对抗训练综述：基础、理论和方法论

本文全面综述了深度神经网络在模式识别中的鲁棒性问题，尤其是针对对抗样本的鲁棒性训练方法，从基础概念、理论模型、算法方法等不同角度进行了系统、结构化的调查和讨论。

Mar, 2022

对抗样本研究中的游戏规则动机

本文介绍如何通过建立人们更真实可靠的威胁模型，从而更好地保护机器学习在实际应用中的安全性。

Jul, 2018

对敌对攻击和防御的恶意软件分类调查

这项调查研究针对网络安全中恶意软件分类展示了当前对抗性攻击和防御策略的研究，将方法分类为生成模型、基于特征的方法、集成方法和混合策略，并评估了每个领域的优点和缺点，同时讨论了常用的数据集和评估标准，最后提出了开放性研究难题和未来的研究选项。

Dec, 2023

自动对抗性发现用于安全分类器

安全分类器和对抗攻击是在线论坛（如社交媒体和聊天机器人）中减少毒性的关键，然而它们仍然容易受到新兴且数量众多的对抗攻击的影响。本文提出了一种自动对抗发现安全分类器的方法，以在以前未见的伤害维度上寻找新的攻击方法，以揭示分类器的新弱点。我们通过两个主要指标来衡量这个任务的进展（1）对抗成功性：攻击是否欺骗了分类器？（2）维度多样性：攻击是否代表了以前未见的伤害类型？通过对 CivilComments 毒性任务中的现有攻击生成方法进行评估，发现它们存在局限性：词汇扰动攻击无法欺骗分类器，而基于提示的 LLM 攻击具有更高的对抗成功性，但缺乏维度多样性。即使是我们最有效的基于提示的方法，仍然只在攻击的以前未见的伤害维度上成功了 5％的时间。自动发现攻击的新的有害维度至关重要，并且在这个新任务上未来研究有巨大的潜力。

Jun, 2024

适应性扰动模式：用于强健入侵检测的逼真对抗学习

该论文介绍了一种基于自适应扰动模式的方法，用于在灰盒情况下生成具有真实性的对抗样本，通过对企业和物联网网络进行案例研究，证明了该方法提供了可扩展的对抗样本生成技术，并在对抗训练和攻击中具有优势。

Mar, 2022

图像分类中的对抗机器学习：从防御者的视角进行调查

这篇论文探讨了深度学习在图像分类中的安全问题，介绍了针对对抗攻击和对抗防御的新分类方法，提供了研究者需要考虑的相关指导，并讨论了未来研究的方向。

Sep, 2020