Jul, 2019

深度学习医学图像分析系统的对抗性攻击研究

PDF
TL;DR医学深度学习系统可以被巧妙地构造对抗性例子攻击破坏，难以在实际临床设置中应用，本文发现医学深度学习模型对于对抗攻击比对自然图像模型更脆弱，但医学对抗攻击可以通过简单的检测器容易检测出来，这些发现可作为更可解释和安全的医学深度学习系统设计的依据。
发现论文，激发创造
  • 针对医学深度学习系统的对抗攻击

    本文发现对抗样本可以操纵深度学习系统在三个临床领域，建议医疗机构在部署深度学习系统时注意当前的漏洞，同时促进机器学习社区进一步研究医疗学习系统的领域特征。

    Apr, 2018

  • 深度学习中的对抗性示例：攻击与防御

    本文研究深度学习中的对抗样本问题，总结了生成对抗样本的方法，提出了对抗样本的应用分类，并探讨了对抗样本的攻击和防御策略以及面临的挑战和潜在解决方案。

    Dec, 2017

  • 对抗性对齐：打破攻击强度和其对人类感知的相关性之间的权衡

    通过研究和比较多种神经网络，本文发现随着图片识别准确度的提高，对抗性攻击虽然越来越容易使模型改变分类决策，但同时攻击的特征也越来越远离与人类视觉识别相关的特征，即使人工以同样方式造成的影响。而通过神经协调器网络的训练，可以使神经网络更加接近人类视觉识别应有模式，从而提高对抗性攻击下的鲁棒性。

    Jun, 2023

  • 自然语言处理中深度学习模型的对抗攻击调查

    该研究综述了最近针对文本深度神经网络攻击的研究。通过研究，讨论了现有攻击对文本数据不可直接应用的问题，并提出了关于这个话题的建议。

    Jan, 2019

  • 计算机视觉中深度学习对抗攻击威胁综述

    本文综述了计算机视觉领域深度学习中的对抗攻击及其防御方法，包括攻击的设计、存在性和实际应用的评估，旨在提供更全面的研究方向展望及其实际意义。

    Jan, 2018

  • 对抗攻击与防御：一项调查

    文章讨论了不同类型的威胁模型下的敌对攻击，以及近期对抗这些攻击的有效方法和挑战，以提高深度学习算法的鲁棒性。

    Sep, 2018

  • 深度学习如何看世界：对抗攻击和防御调查

    本文总结了最新的对抗攻击技术，利用现代防御策略对其进行分类，并概述视觉转换进展、反对抗设置中使用的数据集及度量标准，并在不同攻击下比较最新成果，最终确定了该领域的开放问题。

    May, 2023

  • 通过可视化动态风险评估理解深度学习对抗性示例的防御

    近年来，深度神经网络模型在各个领域取得了许多进展，但是它们也开始在风险关键任务中使用。模型的误诊可能导致严重事故甚至死亡。这引起了研究人员对这些模型的攻击进行研究，发现了一长串的漏洞，所以每个模型都应该进行防护。对抗性示例攻击是研究人员中广为人知的一种攻击，他们已经开发了一些防御措施来避免这种威胁。然而，这些防御措施与深度神经网络模型一样晦涩难懂，其工作原理仍然未知。因此，通过可视化它们如何改变目标模型的行为对于更精确地理解防御模型的性能修改是有趣的。在这项工作中，选择了一些对抗性示例攻击的防御措施，并以可视化的方式显示了每个防御措施在防御模型中的行为变化。选择了对抗训练、降维和预测相似度作为防御措施，使用了由卷积神经网络层和全连接神经网络层组成的模型。在每个防御方案中，将原始模型的行为与防御模型的行为进行对比，并通过可视化图表来表示目标模型。

    Feb, 2024

  • 语义图像分割的对抗性样本

    本文探讨了机器学习和深度神经网络在语义分割任务上遭受对抗性干扰的问题，证实了对抗性攻击对该任务也具有显著影响，可以通过不可察觉的对抗性扰动诱导深度神经网络对某一类别像素的错误分类而几乎不影响该类别以外像素的分类。

    Mar, 2017

  • 深度学习在对抗环境中的局限性

    本文介绍了一种基于对深度神经网络输入输出映射的精确理解的算法，用于制造可以轻易被误分类的针对深度神经网络的对抗样本，通过计算不同类型的样本之间的硬度度量对不同的类型的样本抗击抗性进行了评估，并提出了防御针对性攻击的初步方法。

    Nov, 2015