ICMLFeb, 2023

防御性机器学习：用对抗性混淆防御架构侧信道

PDF
TL;DR该论文研究使用 Adversarial Machine Learning 方法来防御利用机器学习进行信号分析的侧信道攻击，提出了一种名为 Defensive ML 的工作流程，其中包括设计、实现、训练和部署不同环境下的 Defender 来实现信号混淆。作者最终测试了两种基于内存竞争和应用功耗的侧信道攻击，结果显示该方法在保证高水平安全性的同时只有传统方案一半的性能开销（硬件实现）或只有 70％的功耗开销（软件实现）
machine learningadversarial machine learningdefenseside-channel attackssignal obfuscation
发现论文，激发创造
  • 编译作为一种防御策略：通过张量优化提升深度学习模型的攻击鲁棒性

    通过张量优化技术，该研究提出了一种新的对抗机器学习侧信道攻击的防御策略，有效降低了模型攻击的效果达到 43%，并探讨了未来工作的方向。

    Sep, 2023

  • 机器学习中安全与隐私科学的探索

    ML 在安全性方面存在漏洞，提出威胁模型并对攻击进行分类，探究了模型准确性与抗敌对操作的关系。

    Nov, 2016

  • 研究 AES 侧信道攻击的高效深度学习架构

    近年来，深度学习在嵌入式加密应用的侧信道漏洞利用方面越来越受欢迎，因为它可以减少有效密钥恢复所需的攻击轨迹数量。本研究基于 ANSSI 侧信道攻击数据库（ASCAD），采用基于 JAX 的深度学习框架，重现了以前的一些结果并试图改进性能，并研究了各种基于 Transformer 的模型的有效性。

    Sep, 2023

  • 机器学习与密码学在防御对抗攻击中的桥梁

    本文提出了基于加密学的防御机制抵御神经网络的对抗攻击，对于攻击者在灰盒情况下的各种攻击表现出很强的鲁棒性。

    Sep, 2018

  • 通过随机分散的方式抵御对抗性攻击

    本研究提出一种新的防御策略，即基于多通道架构和共享密钥的随机化方案，用以提高机器学习系统抵御对抗攻击的能力。实验结果表明，该方法能够有效增强系统对多种已知的对抗攻击的鲁棒性。

    Apr, 2019

  • 机器学习系统中的隐私侧信道

    通过引入隐私侧信道攻击，本研究揭示了当前保护机器学习隐私的方法假设模型存在于真空中，然而事实上，机器学习模型是包含用于训练数据过滤、输出监测等组件的更大系统的一部分。文中提出了四类隐私侧信道攻击，涵盖了整个机器学习生命周期，可以用于增强成员推断攻击或者进行提取用户测试查询等新颖威胁。通过实例展示，文中指出在应用差分隐私训练之前对训练数据进行去重造成了一种侧信道攻击，完全破坏了任何可证明的隐私保护保证。此外，研究还发现，阻止语言模型再生成训练数据的系统可以被利用来精确重构出包含在训练集中的私钥，即使模型本身并没有记忆这些私钥。总之，本研究的结果表明需要进行全面的端到端的机器学习隐私分析。

    Sep, 2023

  • 鲁棒性竞赛：利用不稳定模型进行城市伪装以及机器学习安全的要求

    本文提出了分布式敌对区域 (DAR) 这一新颖的方法，用于实现基于计算机视觉的 AML 攻击方法的分布式实例，并将其用于城市环境中的目标检测模型，与其他 AML 方法进行比较，并将其放在新的背景下 - 城市伪装与 ML 安全以及模型的鲁棒性的必要性。

    Jun, 2023

  • 副通道攻击破坏嵌入式人工智能的黑箱特性

    通过利用边信道攻击以提取 logits，我们提出了一种架构无关的黑盒攻击方法用于生成具有欺骗性的对抗样本，以证明边信道攻击在攻击神经网络时的有效性。

    Nov, 2023

  • 实时深度学习网络入侵检测系统中的白盒非定向攻击与启发式防御方法

    网络入侵检测系统（NIDS）是保护计算机网络免受各种网络攻击和网络安全威胁的关键组成部分。然而，如果 NIDS 本身受到攻击和漏洞，如何保卫防御者？本研究旨在涵盖与 NIDS、对抗性攻击及其防御机制相关的重要方面，以提高基于机器学习和深度学习的 NIDS 的鲁棒性。我们实施了四种强大的对抗性攻击技术，即快速梯度符号方法（FGSM）、雅可比敏感度图攻击（JSMA）、投影梯度下降（PGD）和 Carlini ＆ Wagner（C＆W）在 NIDS 中。我们详细分析了其在各种性能指标方面的性能。此外，我们实施了三种启发式防御策略，即对抗性训练（AT）、高斯数据增强（GDA）和高置信度（HC），以提高在对抗性攻击情况下的 NIDS 鲁棒性。完整的工作流程在实时网络与数据包流中演示，为对对抗性机器学习感兴趣的研究人员提供了整体背景。

    Oct, 2023

  • DiffDefense: 通过扩散模型抵御对抗性攻击

    这篇论文提出了一种新的重建方法，利用扩散模型来保护机器学习分类器免受对抗攻击，而无需对分类器本身进行任何修改。

    Sep, 2023