Sep, 2023

编译作为一种防御策略：通过张量优化提升深度学习模型的攻击鲁棒性

PDF
TL;DR通过张量优化技术，该研究提出了一种新的对抗机器学习侧信道攻击的防御策略，有效降低了模型攻击的效果达到 43%，并探讨了未来工作的方向。
adversarial machine learningmodel attacksside-channelsmodel compilation techniquestensor optimization
发现论文，激发创造
  • 防御性机器学习：用对抗性混淆防御架构侧信道

    该论文研究使用 Adversarial Machine Learning 方法来防御利用机器学习进行信号分析的侧信道攻击，提出了一种名为 Defensive ML 的工作流程，其中包括设计、实现、训练和部署不同环境下的 Defender 来实现信号混淆。作者最终测试了两种基于内存竞争和应用功耗的侧信道攻击，结果显示该方法在保证高水平安全性的同时只有传统方案一半的性能开销（硬件实现）或只有 70％的功耗开销（软件实现）

    Feb, 2023

  • 鲁棒性竞赛：利用不稳定模型进行城市伪装以及机器学习安全的要求

    本文提出了分布式敌对区域 (DAR) 这一新颖的方法，用于实现基于计算机视觉的 AML 攻击方法的分布式实例，并将其用于城市环境中的目标检测模型，与其他 AML 方法进行比较，并将其放在新的背景下 - 城市伪装与 ML 安全以及模型的鲁棒性的必要性。

    Jun, 2023

  • 多智能体强化学习中的对抗机器学习攻击与防御综述

    本文针对多智能体强化学习模型存在的准确防御策略问题，调研了现有防御及攻击方法，提出了攻击向量的新定义，以两种新的框架来解决现有模型中存在的问题，为未来深入研究提供启示。

    Jan, 2023

  • 嵌入式和物联网平台的机器学习对抗攻击

    本文是关于嵌入式与物联网系统中机器学习算法的鲁棒性对抗攻击及模型压缩技术的综述，进一步论述模型压缩方法对鲁棒性的影响，并探讨该领域的未解决问题。

    Mar, 2023

  • ConAML：面向网络物理系统的受限对抗机器学习

    本文提出了一种称为约束对抗机器学习（ConAML）的算法来研究应用于 CPS 中的机器学习的潜在漏洞，并生成满足物理系统固有约束的对抗样本，从而使 ML 模型的性能显著下降。

    Mar, 2020

  • 推进保证人工智能和机器学习能力的研究与开发

    人工智能 (AI) 和机器学习 (ML) 在开发新型防御和情报能力方面已变得越来越重要。A2I 攻击旨在欺骗和操纵 AI/ML 模型，因此 AI/ML 模型必须能够抵御这些攻击。A2IWG 旨在通过在美国国防部和情报机构之间建立协作环境，通过新的 A2I/AML 防御手段，推动确保 AI/ML 能力的研究和开发，并针对具体挑战，重点关注 AI 可信鲁棒性，AI 系统安全性和 AI/ML 架构漏洞。

    Sep, 2020

  • 无需强鲁棒机器学习来管理对抗攻击风险

    本文综述了关于机器学习鲁棒性的现状，并探讨了对抗性攻击的实际威胁以及如何管理这些风险，指出许多情况下不需要在模型的准确性和鲁棒性之间做出抉择。

    Jun, 2023

  • 机器学习中量子增强的对抗鲁棒性

    机器学习和量子计算的结合有潜力提供更高的准确性和计算效率，并对抗攻击产生更强的鲁棒性。然而，要建立强大的 QAML 工具仍有挑战。本文回顾了 QAML 的最新进展、字典并提出未来的研究方向，以期在量子计算硬件规模扩大和噪声水平降低的情况下实现 QAML 方法的实用性。

    Jun, 2023

  • 模型压缩深度学习系统在对抗攻击下的安全分析与增强

    通过综合考虑模型重塑和输入扰动，本研究首次探讨了实际模型优化的深度学习系统中的多因素对抗攻击问题，并开发了一种名为 “梯度抑制” 的防御技术，能够有效减轻对软硬件导向深度学习的对抗攻击。

    Feb, 2018

  • 机器学习中安全与隐私科学的探索

    ML 在安全性方面存在漏洞，提出威胁模型并对攻击进行分类，探究了模型准确性与抗敌对操作的关系。

    Nov, 2016