adversarial perturbations | BriefGPT

关键词adversarial perturbations

搜索结果 - 221

通用对抗攻击与稀疏表示之间的关系
通过稀疏性框架，本文研究了神经网络在计算机视觉任务中的敏感性以及与对抗性攻击的联系，揭示了对输入图像稀疏表示的攻击可以作为对神经网络的常见攻击表达，进一步解释了对抗性攻击的普遍性和可传递性。
PDF8 months ago
关于随机神经网络的 Lipschitz 常数
神经网络对输入的微小敌对扰动非常敏感，该研究在随机 ReLU 神经网络（即权重随机选择并使用 ReLU 激活函数的神经网络）中研究了 Lipschitz 常数，并在浅层神经网络中表征了 Lipschitz 常数，而在足够宽的深层神经网络中证
PDF8 months ago
EMNLP学习使用非参数化变分信息瓶颈进行抽象
本论文介绍了一种能够学习在同一模型的不同层次进行不同抽象级别压缩的语言表示模型，并通过在编码器的堆叠 Transformer 自注意力层中应用非参数变分信息瓶颈 (NVIB) 来促进表示的信息理论压缩。论文发现模型内的不同层次对应于不断增加
PDF8 months ago
感知空间中的空间变换对抗性图像生成
基于感知色彩空间和空间变换的对抗例子生成方法具有高置信度和有利的近似感知距离结果。
PDF9 months ago
IRAD：隐式表征驱动的图像重采样抵抗对抗攻击
我们介绍了一种对抗性攻击的新方法，即图像重采样。通过图像重采样，我们可以在减轻对抗扰动的影响的同时保留关键的语义信息，从而在对抗性攻击防御方面具有固有的优势。我们提出了一种使用隐式表示驱动的图像重采样方法来克服基本方法的一些限制，并通过广泛
PDF9 months ago
探索 Difficult Images 对检测变换器（DETR）的鲁棒性和特性
基于 Transformer 的目标检测器 (DETR) 在机器视觉任务中表现出显著性能，但其在处理遮挡和对抗扰动等不同图像干扰方面存在问题。我们通过多种实验和将 DETR 与基于卷积神经网络 (CNN) 的检测器（如 YOLO 和 Fas
PDF9 months ago
图神经网络中的对抗鲁棒性：一种哈密顿方法
通过对来自不同神经流的图神经网络的研究，着重探讨与 BIBO 稳定性、Lyapunov 稳定性、结构稳定性和保守稳定性等各种稳定性概念的联系。通过启发于物理原理，我们主张采用保守 Hamilton 神经流构建对抗攻击具有鲁棒性的图神经网络。
PDF9 months ago
具有对抗性干扰的线性时不变系统分布式在线控制的遗憾分析
本研究解决了分布式在线控制问题，考虑了存在对抗干扰的线性时不变系统网络。针对已知动态和未知动态两种情况，分别提出了全分布式干扰反馈控制器和探索 - 执行方法，并给出了相应的遗憾界。
PDF9 months ago
通过动态边距最大化和改进的 Lipschitz 正则化实现的认证鲁棒性
通过开发一个鲁棒的训练算法和有效计算神经网络的 Lipschitz 常数的方法，可以直接操控输入空间的决策边界，提高深度分类器对抗性扰动的鲁棒性。在 MNIST、CIFAR-10 和 Tiny-ImageNet 数据集上的实验证实了该算法的
PDF9 months ago
调查对抗扰动中隐藏的可识别人类特征
研究表明，神经网络在各种机器学习任务中表现出色，但仍然容易受到对抗性扰动的攻击。这篇论文探讨了对抗性攻击中人可识别特征的识别，并揭示了在无目标攻击和有目标攻击中出现的两种不同效应。通过提取像素级注释的特征，论文证明了这些特征能够破坏目标模型
PDF9 months ago
评估对抗鲁棒性及其可行性性能
我们引入了一种度量分类器的鲁棒性的评估指标，特别关注对于可能的对抗扰动而言的预期功能。如果分类器在从该扰动边界的示例上进行测试时，传统的性能度量（如分类准确率）小于最低可行阈值，则假设分类器对于扰动边界的扰动边界是非功能性的（即功能性为零）
PDF10 months ago
使用 Reed-Muller 码进行分类、拒绝和恢复
Reed-Muller Aggregation Networks (RMAggNet) is proposed as a classifier that can correct and reject inputs, minimizing i
PDF10 months ago
通过对抗性输出日志更新推进对抗鲁棒性
在这项研究中，从理论的角度分析了成功的对抗攻击周围的逻辑差异，并提出了一种新的原则，即 Adversarial Logit Update (ALU)，用于推断对抗样本的标签。基于 ALU，引入了一种新的分类范式，利用预净化和后净化的逻辑差异
PDF10 months ago
ICCV通过测试时频域提示来提高遮蔽自动编码器的对抗鲁棒性
本文研究了配备 BERT 预训练（例如 BEiT 和 MAE）的视觉变换器的敌对鲁棒性。令人惊讶的是，MAE 的敌对鲁棒性明显较差。我们的实证分析揭示了 BERT 预训练的敌对鲁棒性与重构目标的高相关性，即对屏蔽图像补丁的原始像素进行预测会
PDFa year ago
一般的 Lipschitz：通过转换依赖随机平滑实现可解决语义转换的认证鲁棒性
提出了一种新的框架，称为 “General Lipschitz（GL）”，用于基于随机平滑的神经网络分类器的可证明鲁棒性，以对抗可组合的解决的语义扰动。在该框架内，分析了平滑分类器相对于参数变换的依赖性和对应的鲁棒性证书，与 ImageNe
PDFa year ago
固定的神经元协变性引起对抗性稳健性
通过引入自相关激活层，该研究以人类感知的特性为依据，改善了深度神经网络对敌对扰动的抵抗能力，从而提高了图像和声音识别任务的准确率并显著降低了对最新的自动 PGD 敌对攻击的脆弱性。
PDFa year ago
FROD: 强健的免费物体检测
本研究旨在利用对抗训练的分类模型作为目标检测的骨干，在不增加计算开销的情况下提高目标检测的鲁棒性，通过引入仿真损失和延迟对抗训练两个轻量级组件进一步增强鲁棒性。在 MS-COCO 和 Pascal VOC 数据集上进行了大量实验证明了我们提
PDFa year ago
概率鲁棒一致预测
概率鲁棒性调和的效果超过了标准的鲁棒性分类器和对抗性鲁棒性分类器，通过提供候选标签预测集合并对数据和扰动设定两个平行阈值，将概率鲁棒性调和引入到机器学习的不确定性量化框架中。
PDFa year ago
基于预训练去噪扩散模型的遥感通用对抗防御
利用预训练扩散模型进行通用对抗防御，净化遥感数据中的对抗干扰，不需要事先了解对抗干扰性质，提高性能并减少重新训练的工作量。
PDFa year ago
ACLDARE：针对生物医学和医疗保健应用的强韧文本解释
本文旨在解决当前越来越普遍的深度神经网络 “黑匣子” 问题，介绍了如何适应不同领域的需求来提高解释方法的鲁棒性，并提供两种训练方法来缓解其脆弱性，最终通过实验证明了方法的有效性。
PDFa year ago