加热决策边界：等电容饱和，对抗情景和泛化界限

ICLRJan, 2021

加热决策边界：等电容饱和，对抗情景和泛化界限

Heating up decision boundaries: isocapacitory saturation, adversarial scenarios and generalization bounds

Bogdan Georgiev, Lukas Franken, Mayukh Mukherjee

TL;DR利用布朗运动过程和概率技术研究分类器的决策边界，探究其几何行为与对抗攻击 / 防御机制之间的联系，并将布朗运动碰撞概率和柔性泛化界限联系起来。

Abstract

In the present work we study classifiers' decision boundaries via Brownian motion processes in ambient data space and associated probabilistic techniques. Intuitively, our ideas correspond to placing a heat sourc

classifiers decision boundaries geometric analysis adversarial examples generalization bounds

发现论文，激发创造

$L_p$ 范数扭曲效率高的对抗攻击

该研究提出了一种新型 Lp 范数扰动有效的对抗攻击方法，旨在减少 L0 范数失真，通过设计优化方案和引入对抗阈值概念，实现了更好的对抗稳健性和视觉不可感知性。

Jul, 2024

EvolBA: 强标签黑盒条件下的进化边界攻击

该研究提出了一种名为 EvolBA 的对抗攻击方法，在仅有目标 DNN 模型预测的类标签的条件下，利用协方差矩阵自适应进化策略（CMA-ES）生成更小扰动的对抗样本，在图像中确定比先前方法更难识别的 Adversarial Examples。

Jul, 2024

基于扩散的对抗净化用于入侵检测

证明扩散模型在网络入侵检测中净化对抗样本方面的有效性，通过对扩散参数的全面分析，识别最佳配置以最大限度地提高对抗鲁棒性而对正常性能的影响最小。重要的是，该研究揭示了扩散噪声和扩散步骤之间的关系，对该领域具有重要贡献。实验在两个数据集上进行，并针对 5 种对抗攻击进行了测试。实现代码公开可用。

Jun, 2024

解读后续离群检测器对于对抗鲁棒性的定义

研究检测和防御方法，以保护深度学习模型免受不符合预期数据、对抗性示例和逃避攻击的影响。

Jun, 2024

通过 t-SNE 镜头探索逐层的对抗性鲁棒性

我们提出了一种方法来评估图像分类人工神经网络的对抗鲁棒性，该方法利用 t-SNE 技术进行视觉检验，并且通过比较干净和扰动后的嵌入来确定网络中的弱点。通过对比两种不同的人类设计和神经进化设计的神经网络在 CIFAR-10 数据集上的分析，我们发现清晰和扰动表示之间的差异在特征提取层中就开始出现，并且影响后续的分类过程，这些结果得到了 t-SNE 图的视觉分析的支持。

Jun, 2024

巴拿赫空间之间全纯算子的最优深度学习

通过将任意近似编码器和解码器与标准前馈深度神经网络 (DNN) 体系结构相结合，我们提出了学习巴拿赫空间之间的算子的问题。我们首先确定了一组 DNN 的族群，使得由这些深度学习 (DL) 过程所获得的产生出算子可以达到最佳的泛化性能。接下来，我们证明了 DL 对于这个问题是最优的，没有任何恢复过程可以超越这些泛化界限。最后，我们展示了在具有挑战性的问题上的实际性能，包括参数扩散、Navier-Stokes-Brinkman 和 Boussinesq 偏微分方程组。

Jun, 2024

增强数据驱动的结构健康监测模型的鲁棒性：带有圆形损失的对抗训练

本文讨论了结构健康监测中的对抗性防御方法，提出了一种基于对抗训练的方法来优化模型的鲁棒性，通过优化训练中特征之间的距离，将样本远离决策边界，从而实现了对模型鲁棒性的显著改进。

Jun, 2024

探索大型语言模型中的上下文学习决策边界

通过探究决策边界对上下文二分类的定性行为，我们发现现有的大型语言模型在简单的二分类任务中学习到的决策边界通常是不规则且非平滑的，本论文研究了影响这些决策边界的因素，并探讨了提高它们泛化能力的方法。通过评估各种方法，包括对大型语言模型的无需训练和微调方法、模型架构的影响以及平滑决策边界的数据高效技术的有效性，我们的研究结果为理解上下文学习动态和改善其鲁棒性和泛化能力提供了更深入的认识和实用改进。

Jun, 2024

通过对抗语义蒙版实现难以察觉的人脸伪造攻击

提出了一种具有良好迁移性和隐蔽性的对抗语义掩码攻击框架 (ASMA)，该框架使用了语义掩码来生成具有局部语义区域中的扰动的对抗样本，并通过自适应语义掩码选择策略提高了攻击的迁移性和隐蔽性。与其他对抗攻击方法相比，该方法在公共人脸伪造数据集上具有卓越的性能。

Jun, 2024

自适应随机平滑：认证对抗样本的多步防御

提出自适应随机平滑（ARS）以对测试时自适应模型的预测结果进行认证，通过扩展使用 f - 差分隐私的随机平滑分析来认证多步骤的自适应组合，首次覆盖了有噪声输入的一般高维函数的合理自适应组合，我们将 ARS 应用于深度图像分类以认证预测结果，提供对有界 L∞范数的对抗样本的适应性防御，在 L∞威胁模型中，我们的灵活性通过高维度的输入相关掩码实现自适应，我们设计了 CIFAR-10 和 CelebA 基准测试，并展示了 ARS 将准确性提高了 2 到 5 个百分点，在 ImageNet 上，ARS 相对于标准 RS 改进了 1 到 3 个百分点。

Jun, 2024