关键词universal perturbations
搜索结果 - 12
- 量子分类器多任务普适对抗扰动
本文发现在两个不同的分类任务中，即便是能够实现几乎达到最先进水平分类精度的量子分类器也能被一个精心设计的通用扰动彻底欺骗，为实现异构分类任务生成通用扰动提供了一个简单而有效的方法，从而为未来的量子学习技术提供有价值的指导。
- ICLRNetFlick：基于敌对性闪烁的深度学习视频压缩攻击
本文提出了一种名为 NetFlick 的真实 LED 攻击来攻击视频压缩框架，用以快速而有效地损害传入视频的性能，并可进一步扩展到攻击下游视频分类网络。
- CVPR从图像和扰动的相互影响理解对抗性样本
通过利用 DNN logits 向量，并基于 Pearson 相关系数（PCC）分析两个独立输入的相互影响，我们提出了一种新的对抗样本分析方法。我们的结果表明，通用扰动包含显著特征，而图像对它们则表现得像噪声。利用代理数据集实现的我们发现的 - 基于几何的前 K 位对抗性扰动
本文提出了一种用于计算 Top-k 对抗性样例的快速且准确的方法，并基于此方法提出了一种通用扰动的方法，可以使大多数自然图像的真实类别不出现在 Top-k 预测中。
- 通用对抗扰动：一次调查
本文研究深度学习中的普适性对抗扰动，探讨相关的数据驱动和数据无关的生成方法及防御技术，并讨论了普适性对抗扰动在各项深度学习任务中的应用。
- 语音命令分类任务中的通用对抗样本
本文研究了语音指令分类中存在的通用扰动问题，并提出了新的分析框架以测量扰动引入的畸变量。研究表明，通用攻击在不同模型中都能够实现，并且引入的畸变量随着普适性级别的提高而降低。同时，作者指出现有方法在解决语音领域的问题时存在不现实性。
- CVPR人体姿态估计的鲁棒性
本文对人体姿态估计模型的对抗攻击和其鲁棒性进行全面深入的研究，基于多个数据集对多个 2D 单人姿态估计体系进行评测，探讨了回归型网络攻击等未曾被研究过的问题，并发现热力图建模型比直接回归模型更具鲁棒性。此外，文中还展示了通用扰动的可视化效果 - ICCV使用共享对抗训练来防御通用扰动
本文探讨了对抗性训练的有效性以及在减少通用扰动和提高模型性能之间的平衡问题，并在图像分类和语义分割方面展示了结果。
- 用于生成普适性对抗扰动的通用无数据客观函数
本篇论文针对机器学习模型中的对抗扰动问题，提出了一种新的、通用的、不依赖于数据的目标函数，通过在多个层次上损坏提取的特征来生成图像无关的对抗扰动。实验结果表明，该目标函数相比于现有的方法具有更好的鲁棒性，能够在黑盒攻击场景下有效攻击深度学习 - CVPR奇异向量的艺术与通用对抗扰动
本文探讨了深度神经网络的漏洞和通用扰动，结果表明通过计算神经网络隐藏层 Jacobian 矩阵的 (p, q) 奇异向量，可以构建出存在有趣视觉模式的通用扰动，并且只使用 64 张图像，就可以在包含 50000 张图像的数据集上构建出具有超 - ICLR分类器对于通用扰动的稳健性：几何视角
本文通过理论分析和几何方法，探究深度神经网络在面对普适性扰动时的稳健性，并揭示了决策边界几何形态（平坦或曲线）与稳健性之间的关系，证明了在正曲率方向上存在共享决策边界的情况下，存在极小的普适性扰动。
- CVPR通用对抗扰动
本文研究了深度神经网络分类器，发现存在普适的微小扰动对所有图像都造成高概率的错误分类，并提出了计算普适扰动的系统算法，证明现有神经网络非常容易受到该扰动攻击，从而出现对人眼几乎无法察觉的误分类。我们为了进一步探究这些扰动，对多个神经网络进行