Jun, 2024

通过 t-SNE 镜头探索逐层的对抗性鲁棒性

PDF
TL;DR我们提出了一种方法来评估图像分类人工神经网络的对抗鲁棒性，该方法利用 t-SNE 技术进行视觉检验，并且通过比较干净和扰动后的嵌入来确定网络中的弱点。通过对比两种不同的人类设计和神经进化设计的神经网络在 CIFAR-10 数据集上的分析，我们发现清晰和扰动表示之间的差异在特征提取层中就开始出现，并且影响后续的分类过程，这些结果得到了 t-SNE 图的视觉分析的支持。
adversarial examplesartificial neural networksadversarial robustnesst-sne techniqueimage classification
发现论文，激发创造
  • 数据可视化中 t-SNE 算法的分析

    通过建立数据可视化形式的二维嵌入来正确地分离数据簇，使用 t-SNE 启发式的数据可视化方法在广泛的应用场景中成为事实上的标准，该研究提供了一种正式框架和分析，以分析数据可视化问题下 t-SNE 的性能表现，并且在满足特定条件时能部分恢复聚类结构。

    Mar, 2018

  • 网络嵌入的对抗训练优化视角理解与改进

    本文从优化的角度理论上解释了 Adversarial Training for Network Embedding 的优秀结果，提出了新的激活函数，通过在四个真实网络上的实验验证表明该方法在节点分类和链接预测任务中优于现有的基线方法。

    May, 2021

  • 用对比学习进行监督式随机近邻嵌入

    在保留数据集邻近信息的范围内，我们将自监督对比方法扩展到完全监督的设置，以有效利用标签信息。属于同一类别的样本集群在低维嵌入空间中聚集在一起，同时将不同类别的样本集群推开。

    Sep, 2023

  • 深度神经网络自动复制 / 粘贴攻击的诊断

    介绍了一种名为 SNAFUE 的自动化方法，可用于识别神经网络的弱点，以找到‘复制 / 粘贴’攻击，利用这种方法可以生成对抗性数据。

    Nov, 2022

  • t-SNE 可视化高维聚类数据的理论基础

    本文对 t-SNE 算法的理论框架进行了研究，在梯度下降法的基础上提出了一种新的理论框架；对于 t-SNE 的 embedding 阶段，文中还对其低维映射的运动学进行了表征和说明。通过本文，我们发现了 t-SNE 的内在机制并说明其在可视化聚类数据方面具有非凡的实用性。

    May, 2021

  • 概率脉冲神经网络的对抗训练

    该研究首次探讨了脉冲神经网络对抗性样本的敏感性，并提出了一种鲁棒的训练机制，能够显著提高脉冲神经网络在白盒攻击下的性能。

    Feb, 2018

  • 高效算法的 t - 分布随机邻域嵌入

    本论文介绍了一种名为 FIt-SNE 的快速傅里叶变换加速插值 t-SNE 方法和 out-of-core PCA 方法，这些方法可以加速 t-SNE 的计算，并允许在资源有限的计算机上计算大型数据集的 t-SNE。

    Dec, 2017

  • 脉冲神经网络对抗鲁棒性的综合分析

    通过对比常规 VGG-9 人工神经网络和等效的 Spiking Neural Network 之间在白盒和黑盒情况下对不同类型单步和多步 FGSM（快速梯度符号法）攻击的准确度降低，证明 SNN 对黑盒攻击更具有韧性。 此外，研究发现 SNN 的鲁棒性很大程度上取决于相应的训练机制。 最后，提出了一个简单而有效的框架，用于从 SNN 中制造对抗性攻击。

    May, 2019

  • 使用 t-SNE 可视化的 GAN 生成手写图像与 MNIST 图像的比较研究

    本研究对使用 MNIST 数据集训练的 GAN 生成图像的质量进行了探究，使用 t-SNE 可视化比较生成图像与原始图像的差异并提出了一种实用的评估方法。

    May, 2023

  • 对比学习暗中进行着随机邻居嵌入

    本文探讨了无监督自学习对偶损失模型（SSCL）的理论基础，提出了在随机邻居嵌入（SNE）视角下，使用数据增强构建 “正” 偶对实现了对输入空间对比度的优化，通过与 SNE 对应，进一步提供了方法学指导并证明了使用域不可知增强与隐式偏见得到的潜在优势，同时证明了从 SNE 到 t-SNE 转换的适用性并在实验中取得了相应的优化效果。

    May, 2022