Oct, 2024
噪声的双刃剑:强化学习如何利用神经网络中的随机防御
Noise as a Double-Edged Sword: Reinforcement Learning Exploits
Randomized Defenses in Neural Networks
TL;DR本研究探讨了对抗性机器学习中的一个反直觉现象:噪声基础的防御在特定情况下可能意外地助长规避攻击。研究结果表明,尽管噪声通常被视为对抗性示例的防御策略,但在面对使用强化学习的自适应攻击者时,噪声有时可能会使攻击成功率显著提高,这表明需要对对抗性机器学习中的防御策略采取更细致的设计。