版权检测系统的对抗攻击

Jun, 2019

Adversarial attacks on Copyright Detection Systems

Parsa Saadatpanah, Ali Shafahi, Tom Goldstein

TL;DR研究了目前许多机器学习模型容易被敌手通过小规模修改数据的方式进行攻击的情形，并将这一攻击方式成功应用于音乐版权检测系统，通过建立一个神经网络的方法，成功地欺骗了 AudioTag 和 YouTube 的 Content ID 等系统。该文的目的是提升人们对于此类攻击的认识，强调版权检测系统工具的重要性以及相应的攻击防护措施的意义。

Abstract

It is well-known that many machine learning models are susceptible to adversarial attacks, in which an attacker evades a classifier by making small perturbations to inputs. This paper discusses how industrial copyright detection tools, which serve a central role on the web, are suscept

adversarial attacks copyright detection tools neural network music identification industrial systems

发现论文，激发创造

针对网络入侵检测系统的逼真对抗攻击建模

通过对网络入侵检测系统进行基于机器学习的威胁模拟，发现现有文献中的威胁模型不适用于实际的网络安全情景，因此，有必要加强现有防御系统以及探索更加真实和有效的对抗方式。

Jun, 2021

现代机器学习中的对抗样本：一次回顾

本文对机器学习模型在视觉领域中面临的对抗性攻击和防御方法进行了广泛探讨，并讨论了不同攻击和防御方法的优点和缺点。旨在提供广泛的领域覆盖和机械进攻和防御机制的直观理解。

Nov, 2019

神经网络策略的对抗性攻击

本研究研究了针对神经网络策略的对抗攻击，发现现有的对抗样本制作技术能够很好地降低训练策略的测试时间性能，并且一些小干扰就能引起显著性能下降。

Feb, 2017

深度学习与音乐对抗

本文提出一种 deep learning 系统应用于音乐内容分析的 Adversary 方法，将其集成到新的深度系统中并探讨其对系统鲁棒性的影响。

Jul, 2015

深度学习医学图像分析系统的对抗性攻击研究

医学深度学习系统可以被巧妙地构造对抗性例子攻击破坏，难以在实际临床设置中应用，本文发现医学深度学习模型对于对抗攻击比对自然图像模型更脆弱，但医学对抗攻击可以通过简单的检测器容易检测出来，这些发现可作为更可解释和安全的医学深度学习系统设计的依据。

Jul, 2019

网络入侵检测系统对抗性躲避攻击与防御的可行性评估

该文章回顾了许多现有的针对机器学习模型的对抗攻击，突出了一些尚未解决的挑战，一些特定领域的约束可能会增加制作对抗样本的难度，也强调了如何将这些理论应用到实践的挑战。

Mar, 2023

工控系统中机器学习网络安全防御的对抗攻击

该研究探讨了如何使用对抗性学习通过生成基于 Jacobian 的显著性图攻击的对抗性样本以及探索分类行为，从而攻击监督模型。该分析还包括如何使用对抗性训练来支持监督模型的鲁棒性。随着对抗性样本的出现，两个广泛使用的分类器 —— 随机森林和 J48 的分类性能分别降低了 16 和 20 个百分点，但训练后它们的性能得到提高，证明了它们对这种攻击的鲁棒性。

Apr, 2020

深度学习中的对抗性示例：攻击与防御

本文研究深度学习中的对抗样本问题，总结了生成对抗样本的方法，提出了对抗样本的应用分类，并探讨了对抗样本的攻击和防御策略以及面临的挑战和潜在解决方案。

Dec, 2017

加固机器学习生产系统：检测和分类对抗性攻击

该研究论文探讨了对抗性攻击在生产机器学习系统中的问题，并提出了一种生产保护系统的策略，通过检测攻击类型来增强深度学习模型的鲁棒性，并在实时过滤攻击从而避免下游损失。

Feb, 2021

计算机视觉中对抗攻击综述

深度神经网络被广泛用于各种下游任务，尤其是自动驾驶等安全关键场景，但深度网络常常受到对抗样本的威胁。对抗攻击可以分为白盒攻击和黑盒攻击，前者攻击者知道模型的参数和梯度，后者攻击者只能获取模型的输入和输出。攻击者的目的可以分为有目标攻击和非有目标攻击，黑盒设置是我们实践中会遇到的情况。

Aug, 2023