May, 2018

PeerNets: 利用同行智慧对抗对抗性攻击

PDF
TL;DR本文介绍 PeerNets，这是一种新颖的卷积神经网络架构，采用了图卷积以从数据的全局结构中获取有用的信息，并可以更有效地抵御各种白盒和黑盒对抗攻击。
deep learningadversarial attacksneural networkspeernetsgraph convolutions
发现论文，激发创造
  • 图数据神经网络的对抗攻击

    本文主要介绍了第一项针对属性通用图的对抗攻击研究，特别关注利用图卷积思想的模型，在针对测试及训练阶段的攻击中生成针对节点特征和图结构的对抗扰动，并确保这些扰动在保存重要数据特征的同时，不被察觉，旨在帮助更好地理解和缓解目前深度学习模型在对抗环境下的不足。

    May, 2018

  • 深度网络的简单黑盒对抗扰动

    研究表明，即使没有内部知识，对深度卷积神经网络进行黑盒攻击并制造对抗性样本是可行的，这暴露了深度神经网络的弱点，为设计安全的网络提供了检验。

    Dec, 2016

  • 深度神经网络的生物启发式防卫对抗攻击技术

    应用生物物理学原理进行非线性计算后，我们开发了一种方案来训练深度神经网络以使它们对抗性攻击具有强鲁棒性。该方案生成高度非线性，饱和的神经网络，即使在没有遭受敌对的选择性训练样本的情况下，在 MNIST 上也实现了状态的最先进表现。

    Mar, 2017

  • 高效的对抗攻击防御

    本文提出了一种基于实践观察的新的防御方法，旨在强化深度神经网络的结构，提高其预测稳定性，从而更难受到针对性攻击，并在多种攻击实验中证明了该方法的有效性，相比其他防御方法具有更好的表现，而且在训练过程中的开销几乎可以忽略不计。

    Jul, 2017

  • CAAD 2018: 迭代性集成对抗攻击

    本文提出了一种针对图像分类器集合的迭代式对抗攻击方法，通过此方法，在 CAAD 2018 针对性对抗攻击竞赛中获得第五名，该方法提高了黑匣子对抗攻击的成功率。

    Nov, 2018

  • 元学习对图神经网络的对抗攻击

    通过使用元梯度将图形视为超参数进行优化，我们研究了对节点分类的图神经网络进行训练时间攻击，发现即使对无监督嵌入也会出现性能下降，甚至会产生误导效应。

    Feb, 2019

  • 使用敌对神经加密学习保护通信

    本文探讨神经网络在多智能体系统中，如何通过敌对训练实现加密解密操作，从而保障通信内容的机密性。研究表明神经网络能够学习如何选择性地运用加密和解密操作以实现保密的目标。

    Oct, 2016

  • 面向神经网络的不可察觉且强韧对抗样本攻击

    该研究提出了一种新的对抗样本攻击方法，考虑到人类感知系统并最大化制作的对抗样本的噪声容忍度，实验结果证明了该技术的有效性。

    Jan, 2018

  • 使用对抗网络进行鲁棒性深度学习的直接方法

    该论文提出了一种基于生成对抗网络 (GAN) 框架下的新防御机制来对抗黑盒攻击，在经验上表现良好并能与利用梯度下降的集成对抗训练和对抗训练等最先进的方法媲美。

    May, 2019

  • 通过污染邻居节点实施图卷积神经网络的间接对抗攻击

    本论文旨在研究图卷积神经网络（GCN）中的对抗性攻击，针对 GCN 中利用邻居节点学习聚合信息的方法进行了攻击，并提出了新的方法来执行间接攻击，以检测网络的鲁棒性。在实验中，作者表明，只需毒化一个远离目标节点一个或两个跳点的单个节点，就可以高置信度地欺骗节点分类器。

    Feb, 2020