机器击败机器：机器学习模型抵御对抗性攻击

Sep, 2022

机器击败机器：机器学习模型抵御对抗性攻击

Machine Beats Machine: Machine Learning Models to Defend Against Adversarial Attacks

Jože M. Rožanec, Dimitrios Papamartzivanos, Entso Veliou, Theodora Anastasiou, Jelle Keizer...

TL;DR本文提出使用两层机器学习模型的部署来防止对抗性攻击，第一层确定数据是否被篡改，第二层解决特定领域的问题。我们尝试了三组特征和三个数据集变化来训练机器学习模型，结果表明聚类算法取得了有前途的结果，特别是使用 DBSCAN 算法和结构相似性指数测量计算的图像和白色参考图像之间的结果最佳。

Abstract

We propose using a two-layered deployment of machine learning models to prevent adversarial attacks. The first layer determines whether the data was tampered, while the second layer solves a domain-specific probl

machine learning models adversarial attacks clustering algorithms dbscan algorithm structured structural similarity index measure

发现论文，激发创造

深度聚类模型的鲁棒性：对抗攻击与防御

本文介绍了一种基于生成对抗网络的黑盒攻击，旨在分析和提高当前最先进的深度聚类模型的鲁棒性。经过实验验证，本篇研究发现传统无监督防御方法无法有效抵御这种攻击方式，从而呼吁开发更为鲁棒的深度聚类模型。

Oct, 2022

加固机器学习生产系统：检测和分类对抗性攻击

该研究论文探讨了对抗性攻击在生产机器学习系统中的问题，并提出了一种生产保护系统的策略，通过检测攻击类型来增强深度学习模型的鲁棒性，并在实时过滤攻击从而避免下游损失。

Feb, 2021

针对网络入侵检测系统的逼真对抗攻击建模

通过对网络入侵检测系统进行基于机器学习的威胁模拟，发现现有文献中的威胁模型不适用于实际的网络安全情景，因此，有必要加强现有防御系统以及探索更加真实和有效的对抗方式。

Jun, 2021

机器学习中安全与隐私科学的探索

ML 在安全性方面存在漏洞，提出威胁模型并对攻击进行分类，探究了模型准确性与抗敌对操作的关系。

Nov, 2016

保护机器学习模型免受对抗样本的安全隐患

本文研究机器学习中的安全和隐私领域，重点探究性会员推断攻击是否会受到对抗性的防御方法的影响，并通过实验验证证明对抗性的防御方法可以增加目标模型的风险。

May, 2019

工控系统中机器学习网络安全防御的对抗攻击

该研究探讨了如何使用对抗性学习通过生成基于 Jacobian 的显著性图攻击的对抗性样本以及探索分类行为，从而攻击监督模型。该分析还包括如何使用对抗性训练来支持监督模型的鲁棒性。随着对抗性样本的出现，两个广泛使用的分类器 —— 随机森林和 J48 的分类性能分别降低了 16 和 20 个百分点，但训练后它们的性能得到提高，证明了它们对这种攻击的鲁棒性。

Apr, 2020

对抗学习攻击和防御的教程

本文主要介绍了机器学习算法在数字经济和人工智能等领域中的广泛应用，特别是在安全关键应用领域中的重要性。同时，文章详细介绍了对抗机器学习攻击的原理、攻击类型及当前各种防御机制的深度分析。

Feb, 2022

建立稳健模型的简单结构

通过添加一个用于协作训练的对抗样本检测网络和设计一种新的数据采样策略，我们建议了一个简单的架构来构建具有一定鲁棒性的模型，该模型能够适应许多不同的对抗攻击，并针对 Cifar10 dataset 的实验表明这种设计对模型的鲁棒性具有积极影响。

Apr, 2022

HoneyModels：机器学习蜜罐

研究纵观 Adversarial Machine Learning 防御策略的不足，通过建立 HoneyModels 模型，给模型添加特定知识水印来检测对抗性攻击，实验表明该模型可以检测到 69.5% 的攻击，并保留原模型的功能。

Feb, 2022

受对抗标签污染影响的支持向量机

本文针对使用支持向量机（SVM）进行垃圾邮件和恶意软件检测等安全相关任务时存在的安全问题进行了探究，特别是研究了 SVM 对面向标签噪声攻击的安全性，并通过启发式方法解决了攻击策略的最优化问题，并在合成和实际数据集上进行了广泛的实验分析。最后，本文还指出，这种方法也可以为开发更安全的 SVM 学习算法以及半监督和主动学习等相关研究领域提供有用的见解。

Jun, 2022