attack algorithms | BriefGPT

关键词attack algorithms

搜索结果 - 6

调查对抗扰动中隐藏的可识别人类特征
研究表明，神经网络在各种机器学习任务中表现出色，但仍然容易受到对抗性扰动的攻击。这篇论文探讨了对抗性攻击中人可识别特征的识别，并揭示了在无目标攻击和有目标攻击中出现的两种不同效应。通过提取像素级注释的特征，论文证明了这些特征能够破坏目标模型
PDF9 months ago
从对抗样本的指纹中进行逆向工程的对抗性攻击
通过反向工程将对抗样本归类至代表其算法和参数的类中，进而遏制不良者进行相关攻击。
PDFa year ago
AAAI对抗攻击归因：发现对抗机器学习攻击中的可归因信号
通过简单的监督式学习实验平台，发现在 CIFAR-10 和 MNIST 数据集中，可以区分使用不同攻击算法、模型和超参数生成的对抗攻击，并介绍了对抗攻击归因的概念。
PDF3 years ago
DeepRobust: 一个用于对抗攻击和防御的 PyTorch 库
DeepRobust 是一个用于 PyTorch 的对抗学习库，包含图像领域中超过 10 个攻击算法和 8 个防御算法，以及图领域中的 9 个攻击算法和 4 个防御算法，并支持多种深度学习架构。
PDF4 years ago
针对差分隐私学习器的数据毒化攻击与防御
本文旨在研究数据污染攻击及其对机器学习的影响，提出差分隐私保护措施以防范攻击，并设计了攻击算法，试图从目标和输出的角度影响学习器，实验结果表明，攻击者在污染足够多的训练数据时，攻击方法的有效性较高。
PDF5 years ago
梯度掩码导致 CLEVER 高估对抗扰动的大小
本报告提出的 CLEVER 评分方法虽可估计出较低的对抗扰动阈值，但其受攻击方法的常见问题 —— 梯度掩盖 —— 的影响而过高估计扰动大小，未能解决攻击方法所面临的关键问题。
PDF6 years ago