本文提出一种使用边框添加对抗性干扰的图像覆盖方法, 能够成功攻击最先进的图像和视频分类方法,从而对神经网络的安全性提出挑战,并提供了源代码。
Dec, 2018
提出了一种基于启发式算法的黑盒视频识别攻击模型,生成的对抗扰动仅作用于筛选的视频帧和区域,大大降低了计算成本和减少了查询次数,攻击效果明显。
Nov, 2019
通过计算基于 l2,1 范数的优化算法,我们在 CNN + RNN 网络中使用传播来计算视频的稀疏对抗扰动,即只需扰动视频中的一帧,即可使 DNN 的错判率可达 59.7%。
Mar, 2018
本文介绍了一种可以进行视频分类器对抗攻击的方法,该方法利用了时间信息中的闪烁扰动,并展示了普适对抗扰动和实现对多目标模型的攻击转移能力。
Feb, 2020
使用图像数据和图像模型的 Breaking Temporal Consistency(BTC)方法,通过对视频中邻近帧的特征相似性进行最小化以生成逆向模式的对抗性视频,在各种数据集中具有优越的效果。
Nov, 2023
该研究提出了一种黑盒攻击框架,通过生成通用的三维扰动对多种视频识别系统进行破坏,该扰动具有多种优势,包括可以越过先进的防御机制以及保证了人类视觉感知的不可察觉性。实验结果表明该方法的优越性和实用性。
Jul, 2021
本研究总结了最近在通用对抗攻击领域里取得的进展,讨论了攻击和防御方面的挑战以及通用对抗攻击存在的原因,旨在成为一项动态研究,不定期更新其内容,包括图像、音频、视频和文本等多个领域,欢迎该领域的作者联系我们,以纳入您的新发现。
Mar, 2021
本研究探讨了实时视频分类系统中对抗性干扰的可能性与必要条件,发现在考虑时序结构的情况下,利用生成对抗网络可以产生能够导致高达 80% 有针对性活动误分类的对抗样本,对其他活动几乎没有影响,并且同一扰动可以适用于视频剪辑中的每一帧。
Jul, 2018
本文展示了普适对抗扰动的存在,基于一些新提出的方法,使用惩罚公式可以成功实现针对音频分类体系结构的有目标攻击和无目标攻击。
Aug, 2019
本论文提出了一种不需要原始训练数据即可计算 UAPs 的数据无关对抗性检测框架,并对各种文本分类任务进行了实验证明其具有竞争性的检测性能,且与正常推断相当。
Jun, 2023