MMMar, 2020

ConAML：面向网络物理系统的受限对抗机器学习

PDF
TL;DR本文提出了一种称为约束对抗机器学习（ConAML）的算法来研究应用于 CPS 中的机器学习的潜在漏洞，并生成满足物理系统固有约束的对抗样本，从而使 ML 模型的性能显著下降。
adversarial machine learningcyber-physical systemsconstrained adversarial machine learningphysical constraintsbest-effort search algorithm
发现论文，激发创造
  • 工控系统中机器学习网络安全防御的对抗攻击

    该研究探讨了如何使用对抗性学习通过生成基于 Jacobian 的显著性图攻击的对抗性样本以及探索分类行为，从而攻击监督模型。该分析还包括如何使用对抗性训练来支持监督模型的鲁棒性。随着对抗性样本的出现，两个广泛使用的分类器 —— 随机森林和 J48 的分类性能分别降低了 16 和 20 个百分点，但训练后它们的性能得到提高，证明了它们对这种攻击的鲁棒性。

    Apr, 2020

  • 语义对抗深度学习

    本文研究了机器学习算法，特别是深度神经网络在自动驾驶汽车、金融、医疗保健、自然语言处理和恶意软件检测等领域中的应用。然而，现有的方法主要忽略了包含 ML 组件的整个系统的语义和上下文，并提出了结果，支持总体系统的规格说明在研究中发挥至关重要的作用。

    Apr, 2018

  • 机器学习中量子增强的对抗鲁棒性

    机器学习和量子计算的结合有潜力提供更高的准确性和计算效率，并对抗攻击产生更强的鲁棒性。然而，要建立强大的 QAML 工具仍有挑战。本文回顾了 QAML 的最新进展、字典并提出未来的研究方向，以期在量子计算硬件规模扩大和噪声水平降低的情况下实现 QAML 方法的实用性。

    Jun, 2023

  • 对航天器的对抗式机器学习威胁

    该研究报告旨在揭示和证明对航天器构成的敌对机器学习（AML）能力威胁。因此，必须在自主航天器中加入 AML 安全措施来保障其安全性。

    May, 2024

  • 无需强鲁棒机器学习来管理对抗攻击风险

    本文综述了关于机器学习鲁棒性的现状，并探讨了对抗性攻击的实际威胁以及如何管理这些风险，指出许多情况下不需要在模型的准确性和鲁棒性之间做出抉择。

    Jun, 2023

  • 面向网络化物理系统的弹性机器学习：机器学习安全性调研，以保护 CPS 的机器学习

    本文综述了在建立机器学习 (Machine Learning) 算法时如何考虑建立安全的弹性型的 Cyber Physical Systems (CPS) 框架，为探测和应对 CPS 的威胁提供新方向。

    Feb, 2021

  • 鲁棒性竞赛：利用不稳定模型进行城市伪装以及机器学习安全的要求

    本文提出了分布式敌对区域 (DAR) 这一新颖的方法，用于实现基于计算机视觉的 AML 攻击方法的分布式实例，并将其用于城市环境中的目标检测模型，与其他 AML 方法进行比较，并将其放在新的背景下 - 城市伪装与 ML 安全以及模型的鲁棒性的必要性。

    Jun, 2023

  • 机器学习中安全与隐私科学的探索

    ML 在安全性方面存在漏洞，提出威胁模型并对攻击进行分类，探究了模型准确性与抗敌对操作的关系。

    Nov, 2016

  • 熊猫还是不是熊猫？通过交互式可视化理解对抗攻击

    通过与 AML 学习者和教师的设计研究，引入 AdvEx 作为一个多层次交互式可视化系统，全面呈现对新手 AML 学习者的不同图像分类器的逃避攻击的性质和影响，我们定量和定性评估了 AdvEx，并通过用户研究和专家访谈的两部分评估结果表明，AdvEx 不仅作为理解 AML 机制的可视化工具非常有效，而且提供了一种有吸引力和愉快的学习体验，从而显示其对 AML 学习者的整体益处。

    Nov, 2023

  • 数据驱动和知识驱动的物理网络系统异常检测的鲁棒性测试

    本文旨在评估基于机器学习方法的异常检测算法对于两种意外和恶意干扰的鲁棒性，在结合领域知识的前提下实验结果表明，基于领域知识训练的机器学习算法能够有效地降低鲁棒性误差并提高透明度。

    Apr, 2022