Jun, 2022

受对抗标签污染影响的支持向量机

PDF
TL;DR本文针对使用支持向量机（SVM）进行垃圾邮件和恶意软件检测等安全相关任务时存在的安全问题进行了探究，特别是研究了 SVM 对面向标签噪声攻击的安全性，并通过启发式方法解决了攻击策略的最优化问题，并在合成和实际数据集上进行了广泛的实验分析。最后，本文还指出，这种方法也可以为开发更安全的 SVM 学习算法以及半监督和主动学习等相关研究领域提供有用的见解。
machine learningsecuritysupport vector machinesadversarial attackslabel noise
发现论文，激发创造
  • 支持向量机的中毒攻击

    本论文考察了一系列针对支持向量机的中毒攻击，通过注入特制的训练数据来增加 SVM 的测试误差。该攻击使用了梯度上升策略并能够在输入空间内进行构造，即使对于非线性内核也适用，并可以可靠地识别验证误差曲面的良好局部最大值，从而显著提高分类器的测试误差。

    Jun, 2012

  • 拉格朗日对偶方法评估支持向量机的鲁棒性

    提出了一种方法，通过解决拉格朗日对偶问题来形式化支持向量机（SVM）的对抗鲁棒性评估，并在 MNIST 和 Fashion-MNIST 数据集上评估了具有线性和非线性内核的 SVM 的对抗鲁棒性，结果表明该方法的可证明鲁棒性比最先进技术要好。

    Jun, 2023

  • 量子对抗学习的核方法

    基于量子核方法和支持向量机的混合量子分类器容易受到对抗攻击，但基于数据增强的简单防御策略可以使分类器对新攻击具有鲁棒性，这在安全关键学习问题和减轻某些形式的量子噪声的影响中具有应用。

    Apr, 2024

  • 对抗学习攻击和防御的教程

    本文主要介绍了机器学习算法在数字经济和人工智能等领域中的广泛应用，特别是在安全关键应用领域中的重要性。同时，文章详细介绍了对抗机器学习攻击的原理、攻击类型及当前各种防御机制的深度分析。

    Feb, 2022

  • 工控系统中机器学习网络安全防御的对抗攻击

    该研究探讨了如何使用对抗性学习通过生成基于 Jacobian 的显著性图攻击的对抗性样本以及探索分类行为，从而攻击监督模型。该分析还包括如何使用对抗性训练来支持监督模型的鲁棒性。随着对抗性样本的出现，两个广泛使用的分类器 —— 随机森林和 J48 的分类性能分别降低了 16 和 20 个百分点，但训练后它们的性能得到提高，证明了它们对这种攻击的鲁棒性。

    Apr, 2020

  • 机器学习中的可迁移性：从现象到黑盒攻击利用对抗样本

    对机器学习模型的黑盒攻击是可能的，即使它们的结构不同。通过生成对抗性样本，并利用受害者模型标记合成训练集，攻击者可以训练出自己的替代模型，并将对抗性样本转移到受害者模型中实施攻击，该方法可以使用新的技术使攻击过程更加有效率，在 Amazon 和 Google 等公司的商业机器学习分类系统中展示了攻击的有效性。

    May, 2016

  • 机器学习中安全与隐私科学的探索

    ML 在安全性方面存在漏洞，提出威胁模型并对攻击进行分类，探究了模型准确性与抗敌对操作的关系。

    Nov, 2016

  • 测试时针对机器学习的逃避攻击

    本文研究了机器学习在安全敏感应用中的应用，提出了一种基于梯度的方法来评估分类算法在对抗攻击下的安全性，并针对 PDF 文件中的恶意软件检测任务进行了实验，同时提出了一些相应的反制措施。

    Aug, 2017

  • 关于具有有限样本复杂度保证的对抗学习的鲁棒优化

    通过受支持向量机（SVM）边界启发，本文提出了一种新的对抗训练方法来提高鲁棒分类器对线性和非线性分类问题中不确定性的处理能力。我们通过数据驱动的视角来解释鲁棒性，并推导了二元和多类情景下线性和非线性分类器的有限样本复杂度界限。我们的算法通过线性规划（LP）和二阶锥规划（SOCP）来最小化最坏情况下的代理损失函数，适用于线性和非线性模型。在 MNIST 和 CIFAR10 基准数据集上的数值实验显示，我们的方法与最先进的方法相比具有可比性能，在训练过程中不需要对抗性示例。我们的工作提供了一个全面的框架，用于增强二元线性和非线性分类器的鲁棒性，在面对对手时保持学习的鲁棒性。

    Mar, 2024

  • 对聚类算法的无疑惑对抗性攻击

    本研究提出了一种黑盒对于线性可分聚类模型的对抗攻击方法，在不知道真实度量的情况下生成溢出性对抗样本，攻击强度高且难以被检测，被证明能够成功攻击多种数据集与聚类算法。

    Nov, 2019