Jan, 2022

基于语义矛盾检测对抗样本：你看到的不是网络看到的

PDF
TL;DR本研究提出了一种基于 ContraNet 框架和 metric learning 的新型 adversarial examples 检测方法，具有识别能力强、鲁棒性高和易于与其他防御技术相结合等优点。
adversarial examplesdeep neural networkae defense solutionscontranetmetric learning
发现论文，激发创造
  • 深度神经网络模型的对抗样本检测：回顾与实验比较

    本文主要研究了针对神经网络分类器的测试时间攻击检测方法，并在不同数据集和场景下提供了八种最先进的检测器的实验结果，为此研究方向提供了挑战和未来的展望。

    May, 2021

  • 深度神经网络的图像边界上的不可察觉对抗攻击

    通过系统性攻击图像边界提出的一种不可察觉的对抗性攻击方法，有效攻击了六个 CNN 模型和 Vision Transformers，仅使用图像边界的 32% 作为输入，成功率达到 95.2%，峰值信噪比为 41.37 dB，借此可以更深入地理解对抗性样本，并给出了构造对抗性样本的不同视角。

    Aug, 2023

  • 从空间变换域的敏感性不一致性检测对抗性样本

    本研究提出了一种基于敏感度不一致性的检测器（SID），可以检测小扰动水平下的对抗性样本。通过设计双分类器来解决正常样本和对抗性样本间的感知敏感度不一致性，相较于基于 LID，MD 和 FS 的算法，SID 在 AE 检测性能和泛化能力上均取得了更好的表现

    Mar, 2021

  • 自动驾驶车辆视觉欺骗：针对交通标志识别系统的强韧物理对抗样本

    本文提出了一种系统的流程来逆置真实世界物体探测器的健壮身体对抗性，通过扩展图像变换的分布，设计各种攻击向量和考虑各种不同的环境因素，生成的物理例外能够有效地欺骗 YOLO v5 基于 TSR 系统的其他最新物体探测器，并做出了基于图像预处理、AEs 检测和模型增强三种防御机制的讨论。

    Jan, 2022

  • SemanticAdv: 基于属性条件图像编辑的生成对抗样本方法

    本研究旨在探索语义干扰对深度神经网络预测结果的影响，并通过提出的算法 SemanticAdv 来生成对各种 “对抗性” 目标偏离的扰动，从而欺骗深度神经网络。实验结果表明，具有控制语义干扰的对抗性例子不仅可以迷惑不同的学习任务，还可以对抗基于迁移的真实世界黑盒服务。

    Jun, 2019

  • 基于图神经网络的对抗性对比学习在具备证据感知的假新闻检测中的应用

    本文提出了一种基于证据的假新闻检测的方法，采用图形结构挖掘和对比学习来消除信息冗余，获得具有可靠性和区分度的表示，并在实验中证明了 GETRAL 相对于现有技术的优越性。

    Oct, 2022

  • ARAE：对抗性训练的自编码器提高了新颖性检测

    本文提出了一种新型自编码器，利用对抗鲁棒性来学习更具语义意义的特征以在新颖性检测问题中更好地重建正常数据，并提出奖励惩罚机制以解决自编码器过于泛化的问题，实验证明该方法在三个基准数据集上超越或与最先进的方法相竞争。

    Mar, 2020

  • 面向对抗样本具鲁棒性的深度神经网络架构

    该研究论文研究了深度神经网络的鲁棒性问题，特别是针对对抗样本的攻击。通过探索神经网络的结构，拓扑结构，预处理和训练策略等方面来提高深度神经网络的抗干扰能力，并且通过引入平滑性惩罚来提高其稳健性。

    Dec, 2014

  • 热度与模糊：对抗性示例的有效快速防御

    结合特征可视化和输入修改的简单防御方法，能够应用于各种预训练模型，可对付对神经网络造成的敌对攻击。本文在 ImageNet 数据集上以 VGG19 为例，通过新的评估指标验证了该防御方法的有效性。

    Mar, 2020

  • SSCAE -- 语义、句法和上下文感知的自然语言对抗样本生成器

    提出了一种名为 SSCAE 的自然语言生成器模型，它是一种实用且高效的对抗性攻击模型，能够生成具有语义、句法和上下文感知的自然语言对抗性示例，通过比较实验和参数优化敏感性分析验证了该模型的有效性和优越性。

    Mar, 2024