defense framework | BriefGPT

关键词defense framework

搜索结果 - 12

ACL一鸣惊人：强大防御策略 Nested PoE 对多后门攻击的鲁棒性
数据污染后门攻击会对大型语言模型造成不良行为，我们提出了 Nested Product of Experts (NPoE) 防御框架，通过专业模型的混合实现对多个触发器类型的同时防御。实验结果表明，NPoE 能有效地防御各种类型的触发器。
PDF3 months ago
利用异构教师提取对抗鲁棒性
通过使用异构教师，我们以 DARHT 的方式开发了一种对抗攻击的防御框架，可以通过蒸馏具有低对抗性示例转移能力的异构教师来实现对抗鲁棒性，在白盒和黑盒方案下，DARHT 在 CIFAR-10、CIFAR-100 和 Tiny ImageNe
PDF4 months ago
对抗净化与微调方法用于鲁棒的 UDC 图像恢复
本研究探讨了增强屏下相机（UDC）图像恢复模型在对抗攻击下的鲁棒性，通过深度学习方法的评估和采用防御框架，包括扩散式对抗净化和进一步的微调，有效提高了图片恢复模型的弹性。
PDF4 months ago
分割：使用扩散模型保护击剑会员隐私
通过引入生成模型，我们提出了一种新颖的防御框架来保护深度学习模型免受成员推断攻击，其中我们的防御方法在输入样本上工作，不需要修改目标模型的训练或推理阶段，从而在隐私性和模型效用之间取得新的最佳表现。
PDF7 months ago
EMNLP大型语言模型的红队和防御攻击指令生成
通过综合手动和自动方法生成攻击提示的综合方法，提出了一种攻击框架来训练大型语言模型并模仿人类生成的提示，并通过与攻击框架的迭代交互来增强受攻击模型对红队攻击的安全性；在不同的大型语言模型上进行广泛实验证实了攻击和防御框架的有效性，并发布了一
PDF8 months ago
基于零样本图像去污的黑盒后门防御
本文提出了一个基于零样本图像净化的后门防御框架，能够在黑盒模型中有效抵御各种攻击，并无需任何关于被攻击模型的内部信息或清洁 / 污染样本的先验知识。该框架涉及两个步骤：第一步对污染图像进行线性变换以消除触发模式，第二步使用预训练扩散模型恢复
PDFa year ago
T-Miner：一种生成式方法来抵御基于 DNN 文本分类中的木马攻击
本论文介绍了一种基于 seq-2-seq 生成模型的 T-Miner 防御框架，用于保护基于 DNN 的文本分类器免受特洛伊攻击的威胁，该框架无需访问训练数据集或干净的输入。经过广泛的评估，T-Miner 检测到特洛伊和干净模型的总体准确性
PDF3 years ago
ACLDARCY：甜如蜜的兔子洞：使用蜜罐检测通用触发器的对抗攻击
本篇论文提出了一种基于引诱陷阱的防御机制 DARCY，用于对抗最近提出的文本对抗攻击方法 Universal Trigger (简称 UniTrigger)。通过向神经网络模型注入多个引诱陷阱，DARCY 能够在多个公共数据集上检测到 Un
PDF4 years ago
UnMask：基于鲁棒特征对齐的对抗性检测与防御
UnMask 是一种基于鲁棒特征对齐的对抗性检测和防御框架，能够保护深度学习模型免受对抗性攻击，并在灰盒攻击设置下检测到高达 96.75％的攻击，并以 93％的准确度正确分类出当前最强攻击之一的 PGD 制造的对抗性图像
PDF4 years ago
ATHENA：基于多样弱防御的框架用于构建对抗性防御
提出了一种面向攻击的通用防御框架 ATHENA，采用弱防御的多样性设计原则，通过多种实现在零知识、黑盒、灰盒和白盒四种威胁模型下的评估，证明其高效并具有可扩展性，同时也说明了其高效性的原因和相关开销。
PDF5 years ago
MM具有对抗噪声的可压缩信号的恢复保证
本文提供了防御神经网络对抗输入的框架，并为被噪声干扰的可压缩信号提供了恢复保证，实验结果表明该防御框架对于多种规范攻击具有很好的效果。
PDF5 years ago
图神经网络的对抗性防御框架
该论文提出了一种称为 DefNet 的针对图神经网络 (GNN) 的有效对抗性防御框架，结合图神经网络每一层中的潜在漏洞和条件 GAN 方法对其进行训练，有效提高了 GNN 在各种类型的对抗攻击下的鲁棒性。
PDF5 years ago