Nov, 2019

对问题空间中对抗性机器学习攻击的有趣特性

PDF
TL;DR本文提出了对问题空间中的对抗性机器学习的新形式化方法，并使用该方法描述了相关文献中的多种攻击方式。在此基础上，我们提出了一个突破过去限制的 Android 恶意软件问题空间攻击，自动生成成千上万个逼真和不引人注意的对抗性应用程序，这表明 “对抗恶意软件即服务” 是一种现实威胁。我们的研究为此领域的更加原则性的研究铺平了道路。
adversarial mlproblem-space attacksandroid malwareformalizationadversarial-malware as a service
发现论文，激发创造
  • 如何训练您的防病毒软件：基于强化学习的硬化通过问题空间

    通过引入一种新颖的强化学习方法来构建对抗样本，针对恶意软件进行对抗训练，我们能够实现该模型对特定一组对抗能力的稳健性，验证了我们的理论洞见。

    Feb, 2024

  • 利用保守特征提高机器学习分类器抵抗实现逃避攻击的鲁棒性

    通过考虑简化的攻击特征空间模型来设计鲁棒的人工智能模型，可以在检测 PDF 格式恶意软件时提高效果。在研究中发现，仅依靠特征空间模型的效果有限，但增加保留特征可以显著提高性能。此外，当面临各种恶意软件的攻击时，特征空间模型具有更广泛的鲁棒性。

    Aug, 2017

  • 基于特征空间的对抗攻击

    本文提出了一种新的对抗攻击方法，通过扰动表示样式的抽象特征，包括可解释和不可解释的风格，诸如鲜艳色彩和锐利轮廓等，通过优化程序注入难以察觉的风格变化，实现深度神经网络模型误分类，我们展示了该方法产生的对抗样本比现有的非受限制攻击更加自然，并支持现有的像素空间的对抗攻击检测和防御技术难以在风格相关特征空间中保证模型的鲁棒性。

    Apr, 2020

  • 图像空间之外的对抗攻击

    本文针对深度神经网络生成对抗样本的问题展开了研究，提出了针对 3D 物理性质改变的对抗样本生成方法，并通过在 2D 输入图像前增加可渲染模块的方式，成功地将对抗扰动提升到物理空间，检验了所设计的方法的有效性。

    Nov, 2017

  • 在潜空间中产生对抗性攻击

    通过使用生成对抗网络在潜在空间中注入对抗性扰动，避免了基于边缘的先验条件并确保了与基于像素的对抗性攻击方法相比视觉上真实的高度，实现了在 MNIST，CIFAR10，Fashion-MNIST，CIFAR100 和 Stanford Dogs 数据集上生成对抗攻击的有效性。

    Apr, 2023

  • 网络入侵检测系统对抗性躲避攻击与防御的可行性评估

    该文章回顾了许多现有的针对机器学习模型的对抗攻击，突出了一些尚未解决的挑战，一些特定领域的约束可能会增加制作对抗样本的难度，也强调了如何将这些理论应用到实践的挑战。

    Mar, 2023

  • 针对表格数据的对抗性训练与攻击传播

    对抗攻击是安全中心应用中的主要问题，我们提出了一种新的对抗性训练方法，能够预防攻击对机器学习模型的性能造成较大影响，特别是在信用卡欺诈检测领域。

    Jul, 2023

  • 可转移对抗样本的空间

    本文提出测量对抗样本空间维度的新方法，发现对抗性子空间在很大的维度上相互重叠并且共享在不同模型之间，通过探究模型决策边界的相似性和转移攻击的局限性，本文表明可能存在抵抗传输攻击的防御方法。

    Apr, 2017

  • 生成自然对抗样本

    本文提出了一种使用生成敌对网络在语义空间中搜索自然和易读的对抗性样本的框架，以验证黑盒子分类器的鲁棒性，并证明该方法可在图像分类，文本蕴含和机器翻译等广泛应用中有效。

    Oct, 2017

  • 现代机器学习中的对抗样本：一次回顾

    本文对机器学习模型在视觉领域中面临的对抗性攻击和防御方法进行了广泛探讨，并讨论了不同攻击和防御方法的优点和缺点。旨在提供广泛的领域覆盖和机械进攻和防御机制的直观理解。

    Nov, 2019