研究使用通过对抗训练引入的置信度信息来增强给定对抗性训练模型的对抗鲁棒性及提出基于置信度信息和最近邻搜索的 Highly Confident Near Neighbor（HCNN）框架，以加强基本模型的对抗鲁棒性，并进行详细的实证研究。

Nov, 2017

本文提出了一种利用 spanners 的新型攻击方法，通过搜索潜在的编码对，寻找生成在不同分类器输出下具有相似图像的对立范例，从而比传统扰动真实图像的攻击更具优势，在实验中，该攻击成功将 Defense-GAN 的准确率降至 3％，而且该技术与普通的对抗训练相结合，可以获得现有最强的 MNIST 分类器。

Dec, 2017

Manifold Mixup 是一种正则化方法，有助于训练神经网络在多个隐藏层级别上具有更平滑的决策边界，并提高其对单步对抗攻击的鲁棒性和测试日志似然率。

Jun, 2018

该研究提出了一种基于几何框架和流形重建方法的方法，以分析对抗样本的高维几何形状，并证明了不同规范的鲁棒性、球形对抗性训练的样本编号和最近邻分类器与基于球面的对抗训练的充分采样条件。

Nov, 2018

该论文提出了一个几何框架以分析对抗性样本的高维几何，强调了余维数的重要性，并介绍了带有 Voronoi 约束的对抗性训练，证明它比基于球形的对抗性训练在 MNIST 数据上更具鲁棒性。

May, 2019

通过在图像的潜在空间中对对抗样本进行对抗训练以及利用生成模型中学习到的流形信息进行双流形对抗训练，可以大大提高深度学习模型的鲁棒性，从而有效地应对多种新颖的对抗攻击。

Sep, 2020

本文在生成对抗网络中引入流形学习方法来打磨辨别器，考虑局部约束线性和基于子空间的流形以及局部约束的非线性流形，利用流形学习和编码的设计将中间特征表示映射到流形上，并通过协调特征表示和流形视图之间的差异性，实现去噪和流形精细化的两难平衡，并在实验中发现局部约束的非线性流形优于线性流形，性能也明显优于现有的基线算法。

Dec, 2021

利用对得分映射的固定点 insight，通过利用对应的狄利克雷能量进行正则化将其前提条件确认为对潜在 manifold 学习的拓扑维度进行回归是可能的，然后引入了一种使用对抗性攻击来测量学习的 manifold 的拓扑维度的新方法，从而产生对学习的 manifold 的有用解释。

Dec, 2023

此论文通过实验分析了通过机器学习模型学习到的流形，比较了每个纪元学习到的流形与真实数据流形的差异，并研究了流形的内在维度和拓扑特征，以及这些度量随着模型训练的变化和趋于真实数据流形度量的趋势。

Mar, 2024

通过对流形假设的研究，我们发现神经网络的可学习性与流形的曲率、正则性以及数据流形的体积之间存在紧密的关联；流形的有限曲率限制了学习问题的可解性，而数据流形的体积增加则会提高网络的可学习性。此外，我们还探讨了在真实世界数据中常见的具有异质特征的中间流形区域的情况。

Jun, 2024