加固机器学习生产系统:检测和分类对抗性攻击
通过对网络入侵检测系统进行基于机器学习的威胁模拟,发现现有文献中的威胁模型不适用于实际的网络安全情景,因此,有必要加强现有防御系统以及探索更加真实和有效的对抗方式。
Jun, 2021
深度学习使我们能够高效地训练复杂数据的神经网络。然而,随着研究的增长,神经网络的几个弱点也被曝光。对抗机器学习是一种特定的研究领域,旨在利用和理解导致神经网络因输入接近原始输入而错误分类的一些弱点。提出了一类称为对抗性攻击的算法,用于在不同领域的各种任务上使神经网络错误分类。随着对对抗性攻击的广泛研究,了解对抗性攻击的分类是至关重要的。这将有助于我们以系统性的方式了解弱点,并帮助我们减轻对抗性攻击的影响。本文对现有的对抗性攻击及其不同角度的理解进行了概述,并简要介绍了现有对抗性防御措施及其在减轻对抗性攻击效果方面的局限性。此外,我们讨论了对抗机器学习领域未来研究的方向。
Aug, 2023
该研究探讨了如何使用对抗性学习通过生成基于 Jacobian 的显著性图攻击的对抗性样本以及探索分类行为,从而攻击监督模型。该分析还包括如何使用对抗性训练来支持监督模型的鲁棒性。随着对抗性样本的出现,两个广泛使用的分类器 —— 随机森林和 J48 的分类性能分别降低了 16 和 20 个百分点,但训练后它们的性能得到提高,证明了它们对这种攻击的鲁棒性。
Apr, 2020
研究了目前许多机器学习模型容易被敌手通过小规模修改数据的方式进行攻击的情形,并将这一攻击方式成功应用于音乐版权检测系统,通过建立一个神经网络的方法,成功地欺骗了 AudioTag 和 YouTube 的 Content ID 等系统。该文的目的是提升人们对于此类攻击的认识,强调版权检测系统工具的重要性以及相应的攻击防护措施的意义。
Jun, 2019
本文综述了近期深度学习中对于对抗攻击和防御技术的研究进展,聚焦于基于深度神经网络的分类模型,并进行了对攻击和防御方法的分类和评价,其中重点介绍了正则化方法在提高模型的鲁棒性方面的应用。此外,还探索了新型攻击方式,如基于搜索、决策、降维和物理世界攻击,并提出了对于未来研究的建议。
Mar, 2023
这篇论文探讨了深度学习在图像分类中的安全问题,介绍了针对对抗攻击和对抗防御的新分类方法,提供了研究者需要考虑的相关指导,并讨论了未来研究的方向。
Sep, 2020
这项调查研究针对网络安全中恶意软件分类展示了当前对抗性攻击和防御策略的研究,将方法分类为生成模型、基于特征的方法、集成方法和混合策略,并评估了每个领域的优点和缺点,同时讨论了常用的数据集和评估标准,最后提出了开放性研究难题和未来的研究选项。
Dec, 2023
本文对机器学习模型在视觉领域中面临的对抗性攻击和防御方法进行了广泛探讨,并讨论了不同攻击和防御方法的优点和缺点。旨在提供广泛的领域覆盖和机械进攻和防御机制的直观理解。
Nov, 2019
通过研究现有对抗攻击模型,我们的实验表明,大多数基于经典机器学习模型(如随机森林)的图像分类系统是免疫于这些攻击的。因此,我们提出了一种新的深度学习系统,在通过使用经典机器学习模型作为辅助验证系统来提高对抗攻击的识别能力方面取得了非常好的效果。
Jun, 2023