对表格数据上敌对攻击的隐蔽性研究:实证分析
通过引入感知度量标准,提出一种新的对抗攻击威胁模型,探究不同攻击样式之间的融合以及在此基础上进行对抗训练,从而实现在保持感知扭曲度不变的情况下取得更高的误分类率。
Feb, 2019
该论文对敌对学习进行了现代综述,重点关注了对统计分类器攻击的防御,并对最近关于测试时间逃避,数据污染和反向工程攻击以及对策进行了综述,最后提出了一些未解决问题和未来工作方向。
Apr, 2019
本文介绍了一种新颖的方法,用于修改和调整最先进的算法以处理不平衡的表格数据,以应对欺诈检测方面的安全挑战,实验结果表明,所提出的修改导致了攻击成功率的提高,并获得的对人类来说不那么易察觉的对抗性示例。
Jan, 2021
本文提出了一种针对表格数据域深度神经网络训练的对抗性鲁棒性方法,并通过面向类别数据的通用鲁棒嵌入将这种鲁棒性传递给其他分类器,使它们变得更加鲁棒。
Jun, 2023
通过对高维度输入数据的实践系统进行观察,我们展示了对于那些容易构建的对抗性攻击及其对大多数模型的威胁性,以及随机扰动的鲁棒性同时易受影响的基本特性,证实了这一现象。然而,令人惊讶的是,即使对于分类器决策边界与训练和测试数据之间只有很小的边距,也很难通过随机取样的扰动来检测到对抗性示例,因此需要更严格的对抗性训练。
Sep, 2023
针对深度表格模型的健壮性评估和对抗攻击的研究,提出CAA对约束表格深度学习模型进行攻击,构建深度表格模型的健壮性评估基准,为提高深度表格模型在各种对抗攻击场景下的健壮性提供安全实践建议。
Nov, 2023
机器学习算法的对抗性攻击是人工智能在很多实际应用中的主要障碍之一,通过在测试样本中引入微小和结构化的扰动,对高性能神经网络造成显著影响。本文在自然语言处理领域特别是文本分类任务中研究对抗性示例,探究了对抗性容易受到攻击的原因,特别是与模型固有维度的相关性。我们发现对抗性样本的嵌入维度与模型输入样本具有相同嵌入维度时的有效性之间存在很强的相关性,利用这种敏感性设计了一种对抗性防御机制。通过使用各种固有维度的集成模型来阻止攻击,我们在多个数据集上测试了其有效性。我们还研究了使用不同距离度量来衡量对抗性扰动的问题。对于所有上述研究,我们在具有不同维度的多个模型上进行了测试,并使用词向量级对抗性攻击来证实这些发现。
Apr, 2024
我们提出了CAPGD和CAA两种新的攻击方法,证明它们在表格机器学习中的有效性和高效性,认为它们应成为任何新的防御或鲁棒性架构的最低测试标准。
Jun, 2024
本研究针对表格深度学习中对抗攻击的不足进行了探讨,特别是缺乏标准化基准的问题。我们提出了TabularBench,这是首个全面评估表格深度学习分类模型鲁棒性的基准测试,揭示了针对表格模型的有效攻击方法。该工作为金融、医疗和安全领域提供了超过200种模型的基准数据,并提供了可以促进新防御机制设计的关键见解。
Aug, 2024