Feb, 2020

对抗机器学习 -- 行业视角

PDF
TL;DR通过对 28 个组织的采访，我们发现行业从业者缺乏保护、检测和响应机器学习系统攻击的战术和战略工具。此文章旨在从开发者 / ML 工程师和安全事件响应者的角度，阐述了机器学习系统在传统软件安全开发背景下的安全性视图差异，以期鼓励研究人员在对抗 ML 领域中修订和修改软件安全开发生命周期。
machine learning systemssecurity development lifecycleadversarial mltactical toolsstrategic tools
发现论文，激发创造
  • 机器学习中安全与隐私科学的探索

    ML 在安全性方面存在漏洞，提出威胁模型并对攻击进行分类，探究了模型准确性与抗敌对操作的关系。

    Nov, 2016

  • 对抗机器学习中的防御措施综述

    机器学习系统中的对抗现象给实际应用带来了严重安全威胁，本调查旨在从统一的视角对现有的防御机制进行系统回顾，通过将机器学习系统划分为预训练、训练、后训练、部署和推断等五个阶段，提出明确的分类法，以分析各个防御机制的机制、联系和差异，并激发未来研究开发更先进、全面的防御机制。

    Dec, 2023

  • 法律与对抗式机器学习

    研究机器学习系统如何应对对抗性操纵时，探讨了计算机犯罪、版权和侵权法与扰动、污染、模型盗窃和模型反演攻击的接口，呼吁机器学习研究人员投资于透明的攻击和防御基准、考虑监管意识下的机器学习系统架构，并在公民自由的背景下更多思考对抗性机器学习问题。

    Oct, 2018

  • 图像分类中的对抗机器学习：从防御者的视角进行调查

    这篇论文探讨了深度学习在图像分类中的安全问题，介绍了针对对抗攻击和对抗防御的新分类方法，提供了研究者需要考虑的相关指导，并讨论了未来研究的方向。

    Sep, 2020

  • 基于机器学习系统的威胁评估

    本研究通过分析 89 个真实的机器学习攻击情景，研究机器学习中的威胁特性、识别通用基本应对策略，最终总结出其中的最有针对性的漏洞、攻击手段及其防御方式，以共同为机器学习安全保驾护航。

    Jun, 2022

  • 工控系统中机器学习网络安全防御的对抗攻击

    该研究探讨了如何使用对抗性学习通过生成基于 Jacobian 的显著性图攻击的对抗性样本以及探索分类行为，从而攻击监督模型。该分析还包括如何使用对抗性训练来支持监督模型的鲁棒性。随着对抗性样本的出现，两个广泛使用的分类器 —— 随机森林和 J48 的分类性能分别降低了 16 和 20 个百分点，但训练后它们的性能得到提高，证明了它们对这种攻击的鲁棒性。

    Apr, 2020

  • 对抗学习攻击和防御的教程

    本文主要介绍了机器学习算法在数字经济和人工智能等领域中的广泛应用，特别是在安全关键应用领域中的重要性。同时，文章详细介绍了对抗机器学习攻击的原理、攻击类型及当前各种防御机制的深度分析。

    Feb, 2022

  • Adversarial 为善？对抗式机器学习社区的价值观如何阻碍攻击的社会效益使用

    本篇论文研究了逆向机器学习的社会影响，发现大多数逆向机器学习研究者的观点和假设会导致他们难以考虑到攻击工具的社会益处和构建工具打破主流秩序。

    Jul, 2021

  • 对抗机器学习研究的法律风险

    本文旨在探讨 Adversarial Machine Learning 领域的研究者在攻击机器学习系统时可能存在的合法风险，特别是与计算机欺诈和滥用法案 CFAA 的适用性相关的问题。在分析研究过程中，从模型反转、成员推断、模型窃取、重新编程机器学习系统和污染攻击等方面阐述了问题，并指出该法案适用的相对一致性问题或有望在 2021 年的 Van Buren 诉美国上诉案中得到解决。

    Jun, 2020

  • 网络入侵检测系统对抗性躲避攻击与防御的可行性评估

    该文章回顾了许多现有的针对机器学习模型的对抗攻击，突出了一些尚未解决的挑战，一些特定领域的约束可能会增加制作对抗样本的难度，也强调了如何将这些理论应用到实践的挑战。

    Mar, 2023