Dec, 2023

具有层次特征隐藏的医学图像对抗性

PDF
TL;DR通过对传统医疗对抗样本的特征进行深入研究，我们发现医学影像的反应性防御机制存在缺陷，并提出一种简单而有效的层次特征约束 (HFC) 方法，通过隐藏目标特征分布中的对抗特征，更高效地绕过一系列最先进的医学对抗样本检测器，这为未来开发更强大的防御手段提供了可能性。
deep learningadversarial examplesmedical imagesreactive defenseshierarchical feature constraint
发现论文，激发创造
  • 基于局部直方图均衡化的增强图像差异特征对抗样本检测

    基于高频信息增强策略，提出了一种针对对抗性样本的检测框架，可以在不修改现有检测模型的情况下，提高检测器的性能和降低部署成本。

    May, 2023

  • 深度学习的分层分布感知测试

    本文提出了一种新的鲁棒性测试方法，考虑到输入分布和输入质量，在特征和像素级别进行分层分析，证实该方法在检测对抗性样本和改进深度学习模型鲁棒性方面比现有技术更加优越。

    May, 2022

  • 热度与模糊：对抗性示例的有效快速防御

    结合特征可视化和输入修改的简单防御方法，能够应用于各种预训练模型，可对付对神经网络造成的敌对攻击。本文在 ImageNet 数据集上以 VGG19 为例，通过新的评估指标验证了该防御方法的有效性。

    Mar, 2020

  • 医疗联邦学习的隐藏对抗性漏洞

    本研究探讨了联邦医学影像分析系统对对抗攻击的易受攻击性。我们的分析揭示了一种新的利用途径：通过使用先前全局模型更新的梯度信息，攻击者可以提高他们攻击的效率和可迁移性。具体而言，我们证明了单步攻击（例如 FGSM）在适当初始化的情况下，可以超越迭代对手的效率，同时减少计算需求。我们的发现强调了在联邦医疗保健环境中重新审视人工智能安全问题的必要性。

    Oct, 2023

  • 深度神经网络模型的对抗样本检测：回顾与实验比较

    本文主要研究了针对神经网络分类器的测试时间攻击检测方法，并在不同数据集和场景下提供了八种最先进的检测器的实验结果，为此研究方向提供了挑战和未来的展望。

    May, 2021

  • 通过限制深度神经网络的隐藏空间来进行对抗性防御

    针对深度神经网络易受对抗性攻击的问题，本文提出了一种基于特征重构的防御方法，具体来说，通过将每个类别的特征强制限制在一个凸多面体内，使得网络学习到的决策区域更加独特和远离各个类别的边界，提高了网络的鲁棒性，同时在干净图像的分类性能上不会退化。

    Apr, 2019

  • 对抗式判别异质人脸识别

    本文提出了一种对抗鉴别特征学习框架，通过在原始像素空间和紧凑特征空间上进行对抗学习，整合跨光谱人脸超分辨率和鉴别特征学习。在三个 NIR-VIS 数据库的实验结果表明，我们的方法优于最先进的 HFR 方法，且不需要复杂网络或大规模训练数据集。

    Sep, 2017

  • 看见并不等于相信：针对物体检测器的实用对抗性攻击

    本研究提出了一种针对实时目标检测器的建设鲁棒且实用的 AE 系统解决方案，包括针对 HA 的 FIR 方法和 ERG 增强鲁棒性，以及针对 AA 的嵌套 AE，可攻击不同距离和角度下的检测器。实验表明，我们的 AE 系统的攻击成功率可以达到 92.4％，并且可攻击另外三种黑盒模型。

    Dec, 2018

  • DifAttack++：跨领域中基于层级解缠特征空间的查询高效黑盒对抗攻击

    研究了高攻击成功率和良好泛化性的高效基于评分的黑盒对抗攻击方法，提出了一种基于分层解耦特征空间和跨域的新颖攻击方法 DifAttack++，通过自编码器和我们特别设计的 Hierarchical Decouple-Fusion（HDF）模块将图像的潜在特征分解为对抗特征（AF）和视觉特征（VF），在黑盒攻击阶段， DifAttack++ 根据受害模型的查询反馈迭代优化 AF，生成成功的对抗样本，同时保持 VF 不变，实验证明我们的方法在攻击成功率和查询效率方面优于现有方法，并且对抗样本具有更好的视觉质量。

    Jun, 2024

  • 通过特征空间微调提升有针对性的可迁移性

    在这篇论文中，通过在特征空间进行微调，我们提出了一种解决针对未知模型的有针对性对抗样本（AE）传递性问题的方法，实验证明简单的迭代攻击可以产生与资源密集型方法相媲美甚至更好的传递效果。

    Jan, 2024