Apr, 2023

一种基于认证半径的攻击框架，针对图像分割模型

PDF
TL;DR本文提出了基于已认证半径的白盒攻击框架和基于带有反馈的黑盒攻击框架，用于攻击现代图像分割模型。通过使用像素的已认证半径来设计认证半径引导的损失，我们证明了我们的攻击框架的有效性和鲁棒性。
发现论文，激发创造
  • 医学图像分割深度学习模型认证

    基于随机平滑和扩散模型的医学图像分割基线，通过多项公共数据集的实验证明其能够在高度扰动的图像中保持高准确性。

    Oct, 2023

  • 通过扩散模型实现更好的认证分割

    本文介绍了一种结合随机平滑和扩散模型的方法，用于认证图像分割预测结果，实现更高的鲁棒性。实验结果表明，该方法平均提高了 21 个百分点的准确度

    Jun, 2023

  • SegPGD：一种有效且高效的对抗攻击方法，用于评估和增强分割鲁棒性

    本文讨论了利用 SegPGD 进行语义分割的有效攻击和防御方法，并提出了一种更有效和高效的对抗训练机制，可以增强基于语义分割的模型的鲁棒性。

    Jul, 2022

  • 评估语义分割模型的对抗鲁棒性

    该研究提出了一种基于梯度的迭代攻击方法来评估在语义图像分割领域中防御对抗扰动的模型的鲁棒性，并发现只有使用对抗样本进行训练才能获得鲁棒性，并分析了鲁棒性和准确性之间的权衡。

    Jun, 2023

  • （几乎）什么都不分割：分割模型的通用提示对抗攻击

    生成通用分割模型可以从各种提示（包括视觉和文本提示）中生成语义分割掩码，作者提出了一种生成与提示无关的对抗性攻击方法，通过在潜空间中最大化原始图像和扰动图像的编码之间的 L2 距离来扰乱各种提示下分割掩码。该攻击能在几乎无法察觉到的篡改下改变最新的分割模型对于点、框和文本提示的掩码预测，并探索了创建通用攻击的可能性，即能够直接应用于任何输入而无需进一步的计算成本。

    Nov, 2023

  • MACER: 通过最大化认证半径实现免攻击和可扩展的强健训练

    本文提出 MACER 算法，学习鲁棒模型而无需使用对抗训练，适用于现代深度神经网络的广泛数据集，并比所有现有的可证明的 L2 防御性能更好。

    Jan, 2020

  • 架构无关的迭代式黑盒认证对抗性贴片防御

    本文介绍了针对图像分类器的对抗性贴片攻击的问题，并提出一种名为 IBCD 的两阶段迭代黑盒认证防御方法，旨在提高构架无关的认证防御在黑盒攻击情境下的可行性并检验其有效性和效率。

    May, 2023

  • 语义分割模型对抗攻击的鲁棒性

    对现代语义分割模型的对抗攻击进行了深入评估，发现许多分类任务的观察结果并不能直接转移到更复杂的任务上，同时展示了深层结构模型中的平均场推理、多尺度处理等方法如何自然地实现最近提出的对抗性防御。这些发现有助于未来理解和防御对抗性攻击，并有效评估分割模型的鲁棒性。

    Nov, 2017

  • 医学图像分割模型对对抗攻击的敏感性

    医学影像分割模型容易受到对抗性攻击，参数大小与对抗性攻击成功率之间没有明显的相关性，并使用不同于训练所用的损失函数可提高对抗性攻击的成功率。

    Jan, 2024

  • 鲁棒语义分割：强对抗攻击和鲁棒模型快速训练

    本文探讨了在对语义分割模型进行敌对攻击时所面临的挑战性问题，并提出了相应的解决方案。最终我们得出的评估方案优于现有方法，同时表明敌对训练在语义分割中的应用因其更具挑战性的任务和更高的计算代价而受到限制。然而，通过利用强 Robust ImageNet 分类器的最新进展，我们可以在有限的计算成本下通过微调达到敌对训练和语义分割的效果

    Jun, 2023