defending | BriefGPT - AI 论文速递

关键词defending

搜索结果 - 9

MPAT: 构建抵抗文本对抗攻击的鲁棒深度神经网络
本文提出了一种基于恶意扰动的恶意对抗训练方法 (MPAT)，用于构建对文本对抗攻击具有鲁棒性的深度神经网络。该方法通过生成恶意样本来替代原始输入进行模型训练，并采用新的训练目标函数以实现在不降低原始任务性能的情况下达到防御目标。实验结果表明
PDF4 months ago
ACL通过归因防御插入式文本后门攻击
提出了 AttDef 模型，该模型基于属性和预训练语言模型，可以有效防御 BadNL 和 InSent 两种插入型中毒攻击，其中通过属性分析将大于特定阈值的词作为潜在的触发器，同时利用外部预训练语言模型鉴别是否有毒，该方法在四个基准数据集
PDFa year ago
基于零样本图像去污的黑盒后门防御
本文提出了一个基于零样本图像净化的后门防御框架，能够在黑盒模型中有效抵御各种攻击，并无需任何关于被攻击模型的内部信息或清洁 / 污染样本的先验知识。该框架涉及两个步骤：第一步对污染图像进行线性变换以消除触发模式，第二步使用预训练扩散模型恢复
PDFa year ago
ICLR自适应多出口神经网络推断中的减速攻击：不是熊猫，而是树懒
本文旨在研究和针对 $IoT$ 设备中应用的深度神经网络 $（DNNs）$ 中的威胁问题，提出了一种针对多出口 $DNNs$ 的保护方案，并发现反对策略可以通过进行通用可重复使用的干扰来使 $DNNs$ 减速，如果不进行针对性防御，会对 $
PDF4 years ago
子群体数据污染攻击
本文介绍了一种名为 “亚群体攻击” 的数据篡改攻击方法，对于大型和多样化的数据集非常不利，此攻击方法可以使在推理时间内自然分布的数据点产生错误分类，具有缺乏显著性的特点，并表明了现有的保护机制的局限性。
PDF4 years ago
对抗性鲁棒性工具箱 v1.0.0
Adversarial Robustness Toolbox 是一个 Python 库，旨在帮助开发者和研究人员保卫机器学习模型，使其更加安全可靠，包括对付针对模型的对抗样本的防御工具、攻击模块以及针对模型鲁棒性的验证方法和硬化方法等。
PDF6 years ago
利用欺骗性扰动防御机器学习模型窃取攻击
本文提出一种防御简单模型窃取攻击的方法，通过在提供的信息中添加噪音以限制敌对方的信息获取，使窃取模型的准确性降低至少 20% 或需要多达 64 倍的查询次数，并在此过程中保持原模型准确性。
PDF6 years ago
CVPR关于使用 $L_p$- 范数创建和防止对抗性示例的合适性
本研究证明了通过 $L_p$-norms 计算的输入相似性不仅不必要，而且是不充分的，对创造和防御对抗性样本都有影响。研究提出并探讨了替代相似性度量的策略，以刺激未来对该领域的研究。
PDF6 years ago
ICLR通过随机化减轻对抗性影响
本文提出利用随机化在推理时间解决对抗性样本攻击的问题，采用随机的大小和填充来进行防御，现在已经成为一种非常有效的方法，公开代码可用。
PDF7 years ago