Aug, 2024

TabularBench：现实应用中表格深度学习的对抗鲁棒性基准测试

HTML
PDF
TL;DR本研究针对表格深度学习中对抗攻击的不足进行了探讨，特别是缺乏标准化基准的问题。我们提出了TabularBench，这是首个全面评估表格深度学习分类模型鲁棒性的基准测试，揭示了针对表格模型的有效攻击方法。该工作为金融、医疗和安全领域提供了超过200种模型的基准数据，并提供了可以促进新防御机制设计的关键见解。
发现论文，激发创造
  • 对抗鲁棒性基准测试

    本研究旨在建立一个全面、严谨、连贯的标准来评估对抗性鲁棒性，通过两个鲁棒性曲线作为公正的评估标准来进行大规模实验，全面掌握攻击与防御方法的表现并得出重要结论和未来研究的启示。

    Dec, 2019

  • 一个标准的对抗鲁棒性基准测试RobustBench

    为了建立标准化的对抗性鲁棒性基准，我们考虑了图片分类任务，并引入了允许的模型限制，使用 AutoAttack 进行评估，同时提供80多种鲁棒模型的开源库，分析了鲁棒性对分布偏移、平滑性等性能的影响。

    Oct, 2020

  • RobustBench/AutoAttack对于对抗性鲁棒性是否是一个合适的评测标准？

    本篇研究讨论了RobustBench在实际应用中作为鲁棒性关键指标的适用性，通过对该平台中数据更改和分辨率等方面的分析实验，提出了两个观点：一是数据更改强度过大，无法反映真实情况；二是基于梯度的攻击在低分辨率上表现较好，但对于高分辨率数据不具有泛化能力。

    Dec, 2021

  • 通过通用强韧嵌入实现对分类数据的可迁移的对抗性稳健性

    本文提出了一种针对表格数据域深度神经网络训练的对抗性鲁棒性方法，并通过面向类别数据的通用鲁棒嵌入将这种鲁棒性传递给其他分类器，使它们变得更加鲁棒。

    Jun, 2023

  • 评估语义分割模型的对抗鲁棒性

    该研究提出了一种基于梯度的迭代攻击方法来评估在语义图像分割领域中防御对抗扰动的模型的鲁棒性，并发现只有使用对抗样本进行训练才能获得鲁棒性，并分析了鲁棒性和准确性之间的权衡。

    Jun, 2023

  • 约束自适应攻击：对表格数据中的对抗样本进行真实评估和深度神经网络的强化训练

    针对深度表格模型的健壮性评估和对抗攻击的研究，提出CAA对约束表格深度学习模型进行攻击，构建深度表格模型的健壮性评估基准，为提高深度表格模型在各种对抗攻击场景下的健壮性提供安全实践建议。

    Nov, 2023

  • DD-RobustBench: 数据集提炼的敌对鲁棒性基准测试

    数据集蒸馏是一种高级技术，旨在将数据集压缩为较小的对应物，同时保持强大的训练性能。本研究引入了一个全面的基准，用于评估统一方式下研究到目前为止最广泛的蒸馏数据集的对抗鲁棒性。通过结合更广泛的数据集蒸馏方法、包括TESLA和SRe2L等最新进展，多样化的对抗攻击方法，以及对ImageNet-1K等更广泛和更全面的数据集的评估，我们的基准在之前的努力基础上显著扩展。此外，我们评估了这些蒸馏数据集对抗性攻击算法（如PGD和AutoAttack）的鲁棒性，并从频率视角探索了它们的弹性。我们还发现，将蒸馏数据融入原始数据集的训练批次可以提高其鲁棒性。

    Mar, 2024

  • 约束性自适应攻击：针对表格数据深度神经网络的有效对抗性攻击

    我们提出了CAPGD和CAA两种新的攻击方法，证明它们在表格机器学习中的有效性和高效性，认为它们应成为任何新的防御或鲁棒性架构的最低测试标准。

    Jun, 2024

  • 对表格数据上敌对攻击的隐蔽性研究：实证分析

    针对表格数据的对抗性攻击存在许多挑战，因此需要应对这些挑战并评估攻击效果的标准化指标，同时还需要引入稀疏性度量以控制特征扰动的数量。

    Jul, 2024

  • 针对多样化表格数据集的机器学习和深度学习综合基准

    本研究针对深度学习在表格数据集上的表现不足这一问题进行了深入分析，提出了一套全面的基准，评估了111个数据集与20种不同模型的性能。研究发现，通过对深度学习模型表现优越的数据集进行充分分析，可以有效预测这些模型在特定情况下的表现，最终实现了86.1%的准确率。

    Aug, 2024