defense strategies | BriefGPT

关键词defense strategies

搜索结果 - 42

从 LLMs 到 MLLMs：探索多模态越狱的领域
大型语言模型（LLMs）和多模态大型语言模型（MLLMs）的快速发展暴露了各种对抗性攻击的漏洞。本文综述了针对 LLMs 和 MLLMs 的越狱研究的最新进展，重点介绍了评估基准、攻击技术和防御策略。与单模态越狱的更先进状态相比，多模态领域
PDF13 days ago
通过重新激活攻击打破后门防御中的虚假安全感
深度神经网络面临着对抗后门攻击的挑战，虽然现有的防御策略在降低攻击成功率方面表现出了很好的性能，但我们能否自信地声称已经从模型中真正消除了后门威胁？本文重新调查了防御模型（即采用现有后期训练防御策略的防御模型）中的后门特征，并通过一个称为后
PDFa month ago
MoGU: 提升开源 LLM 安全性并保持其可用性的框架
我们通过引入 MoGU 框架，将基础大型语言模型 (LLMs) 转化为可用 LLM 和安全 LLM 两个变体，并进一步采用动态路由来平衡它们的贡献，从而增强 LLMs 的安全性，同时保留其可用性。我们的实验结果验证了 MoGU 框架的卓越性
PDFa month ago
重思图形后门攻击：维持分布的视角
本文研究了一种新颖的问题，即使用分布内的触发器进行不可察觉的图形后门攻击。为了生成分布内的触发器，我们引入了一个离群点检测器和对抗性学习策略，以在分布内生成触发器的属性。在真实世界的数据集上进行的大量实验证明了所提方法在生成可以绕过各种防御
PDF2 months ago
针对自主驾驶联邦学习的毒化攻击
本文介绍了两种针对自动驾驶中回归任务的联邦学习 (FL) 的新型中毒攻击：FLStealth 和 Off-Track Attack (OTA)。通过实施广泛的实验，我们证明了这些攻击的有效性，并强调了针对自动驾驶中的有针对性攻击的新的防御机
PDF2 months ago
研究多轮 LLM 交互的提示泄露效应和黑盒防御
对大型语言模型（LLMs）中的提示泄漏进行了研究，发现在多轮 LLM 交互中存在漏洞和泄漏，并提出了防御策略。
PDF2 months ago
FedMID：一种使用中间输出作为防御机制防止联邦学习中的中毒攻击的无数据方法
通过对本地模型的中间输出进行功能映射，我们提出了一种新的防御联邦学习中的毒化攻击的方法，实验证明我们的机制在广泛的计算条件和高级攻击场景下都具有鲁棒性，通过联邦学习实现了数据敏感参与者之间更安全的协作。
PDF3 months ago
对 SSL 后门攻击的一种极简防御方法
自我监督学习（SSL）已经成为应对无人监督数据环境的一种强大范例。然而，最近的研究表明 SSL 容易受到后门攻击的威胁，控制模型以适应攻击者目的。本文引入一种基于频率的新型后门攻击：CTRL，并提出了两种对抗 SSL 中基于频率攻击的防御策
PDF3 months ago
SoK: 降低 Fine-tuned 语言模型对成员推断攻击的脆弱性
自然语言处理模型在最近几年中经历了显著的提升，其上已建立了许多应用。然而，这些应用中许多需要在定制的专有数据集上对通用基础模型进行微调，这些微调数据往往含有个人或敏感信息，增加了隐私风险。本研究首次系统回顾了大型自然语言处理模型在成员推理攻
PDF4 months ago
机器中的低语：LLM 整合系统中的保密性
本文提出了一种系统评估 LLM 集成系统中机密性的方法，通过形式化 “秘密密钥” 游戏来比较模型的脆弱性和不同防御策略的有效性，发现当前的防御策略在攻击策略方面缺乏泛化能力，并提出了一种受对抗训练启发的鲁棒性微调方法，有效降低了攻击成功率并
PDF5 months ago
AAAIROIC-DM：通过扩散模型的稳健文本推理与分类
该论文介绍了一种基于扩散模型（ROIC-DM）构建的鲁棒文本推理和分类模型，通过利用去噪阶段的训练，ROIC-DM 相对于传统语言模型具有更好的鲁棒性，并且可以将它们作为顾问组件有效地融合，达到相当甚至更好的性能。
PDF6 months ago
从文本到多模态：对问答系统中对抗性示例生成的综合调查
本文对于整合对抗机器学习与问答系统的领域进行了综述，包括传统和多模态背景下的对抗性示例生成技术。通过系统分类，回顾了采用的技术，从传统问答模型出发，探索了基于规则的扰动和高级生成模型，并扩展了对多模态问答系统的研究，分析了各种方法，并研究了
PDF6 months ago
Elijah：通过分布变化消除扩散模型中注入的后门
我们提出了第一个扩散模型的后门检测和清除框架，通过对数百种扩散模型进行评估，实验证明我们的方法可以几乎百分之百地检测出后门，并将后门效果减少到接近零，而不明显损害模型的效用。
PDF7 months ago
联邦学习中的漏洞调查：一种学习算法的视角
该综述论文对恶意攻击的联邦学习进行了全面的研究，从攻击来源和目标的新视角进行分类，并深入剖析了其方法和影响。文章对以数据攻击模型、模型攻击数据、模型与模型攻击以及复合攻击为类型的威胁模型进行了讨论，并提出了各种防御策略及其效果、假设和潜在改
PDF7 months ago
防范 GANs 中的成员推断攻击以保护隐私
生成对抗网络和会员推断攻击的防御策略，其中包括最大熵 GAN 和互信息最小化 GAN，提供了在保护隐私的同时保持合成数据质量的方法。
PDF8 months ago
检测防御：光流中对抗性贴图攻击的空洞承诺
当放置在任意场景位置时，敌对补丁削弱了光流预测的可靠性，因此对现实世界的运动检测及其下游应用构成了现实威胁。我们对目前可用的 ILP 和 LGS 防御策略进行了全面研究，探究其对最新光流方法的质量和稳健性的副作用。然而，当前使用的检测和移除
PDF8 months ago
大型语言模型中的隐私：攻击、防御与未来方向
给出了当前针对大型语言模型（LLMs）的隐私攻击的全面分析，并对其进行了分类，同时提供了用于对抗这些隐私攻击的重要防御策略，并指出了 LLMs 发展中可能出现的新的隐私问题和未来的研究方向。
PDF9 months ago
防御红外人体检测中的物理对抗贴片攻击
红外检测面临物理可行的对抗性补丁攻击，本研究提出了用于红外检测的贴片遮挡感知检测（POD）防御策略，可以有效地检测对抗性补丁并提高检测精确性。
PDF9 months ago
ICCV通过关键参数分析实现抗攻击的联邦学习
本文提出了一种新的防御策略 FedCPA（具有关键参数分析的联邦学习），基于观察到良性本地模型具有相似的前 k 个和后 k 个关键参数集，而恶意本地模型则没有。在多个数据集上进行的不同攻击场景实验表明，我们的模型在防御中毒攻击方面优于现有的
PDFa year ago
通过污染关键层实现后门联邦学习
提出了一种基于攻击者视角的泛指在位方法，用于识别和验证后门关键层，以及基于这些目标层谨慎制定新的后门攻击方法，在各种防御策略下平衡攻击效果和潜伏性。经过广泛实验证明，该方法能够成功地在 10% 恶意客户端的情况下攻击七种最新防御策略下的联邦
PDFa year ago