poisoning attacks | BriefGPT

关键词poisoning attacks

搜索结果 - 85

KDDBadSampler: 利用灾难性遗忘的能力於毒化拜占庭强韧联邦学习
通过引入灾难性遗忘，本文解决毒化巴氏鲁思联邦学习的难题，提出了一种仅利用无毒数据（即无毒数据）的攻击方法，通过选择高损失的训练数据进行模型训练，最大化模型的泛化误差，达到攻击的目的。对两个真实数据集的广泛评估证明了我们提出的攻击的有效性和性
PDF16 days ago
毒害对 LLM 对齐的威胁是否真实存在？可能比你想象的更严重
在这项工作中，我们研究了以直接策略优化（DPO）为基础的强化学习模型在不同情景下对攻击的脆弱性，并比较了首次提出的偏好污染攻击的有效性。我们发现，相比于基于 Proximal Policy Optimization（PPO）方法的模型，DP
PDF17 days ago
FullCert: 神经网络训练和推断的确定性端到端认证
该论文提出了 FullCert 方法，通过边界流概念构建了第一个具有可靠、确定性范围的端到端认证系统，用于防御训练和推断阶段的攻击，并结合开源库 BoundFlow 进行实证验证。
PDF17 days ago
MM拜占庭稳健的分散式联邦学习
我们提出了一种名为 BALANCE 的新算法，通过本地相似性在去中心化中进行拜占庭 - 鲁棒的均值计算，以抵御毒化攻击，并在强凸和非凸设置中建立了 BALANCE 在毒化攻击下的理论收敛保证，大量实验证明 BALANCE 优于现有的分布式联
PDF20 days ago
基于梯度训练的数据污染的认证鲁棒性
现代机器学习流程利用大量公开数据，导致无法保证数据质量，使得模型容易遭受中毒和后门攻击。本论文提出了一个框架，首次提供了有关使用潜在操纵数据进行训练的模型行为的可证明保证。该框架通过使用凸松弛来近似计算可能的参数更新集合，限制了任何梯度下降
PDF25 days ago
无破坏：隐私保护和拜占庭强健的联邦学习
本文旨在构建一个隐私保护、拜占庭强健的联邦学习方案，提供一个无破坏者环境，以保护数据隐私并排除恶意攻击者。我们通过构建模型过滤器、采用零知识证明提供进一步的隐私保护、采用秘密共享提供可验证的安全聚合，证明了 NoV 能有效应对包括 PGD
PDFa month ago
RFLPA：一种抵御污染攻击的鲁棒联邦学习框架并具有安全聚合
我们提出了一种基于安全聚合协议的抵御毒化攻击的强韧联邦学习框架（RFLPA），该框架通过计算本地更新和服务器更新之间的余弦相似度来进行鲁棒聚合。此外，我们利用可验证的打包 Shamir 秘密共享来实现每个用户的通信成本降低为 O（M + N
PDFa month ago
ICML通过速率约束的变分自编码器净化无法学习的示例
我们提出了一种新的预训练净化方法，利用离散变分自动编码器（D-VAE）来解缠扰动，并采用两阶段净化方法，以消除扰动并在各种情景下确保有效性和鲁棒性。
PDF2 months ago
针对自主驾驶联邦学习的毒化攻击
本文介绍了两种针对自动驾驶中回归任务的联邦学习 (FL) 的新型中毒攻击：FLStealth 和 Off-Track Attack (OTA)。通过实施广泛的实验，我们证明了这些攻击的有效性，并强调了针对自动驾驶中的有针对性攻击的新的防御机
PDF2 months ago
专注回门攻击：针对联合迁移学习的专注化后门攻击
基于联邦迁移学习的聚焦后门攻击。
PDF2 months ago
操纵推荐系统：投毒攻击与防御措施综述
该研究报告通过文献综述，提供了关于推荐系统中毒攻击和对策的新分类法，并对文献中描述的 30 多种攻击进行了整理。此外，对于检测和 / 或预防毒攻击的 40 多种对策进行了评估，评估了它们对特定类型攻击的有效性。该综述为保护推荐系统抵御毒攻击
PDF2 months ago
说得太多：在标记限制下攻击大型语言模型
通过限制语言模型的生成能力，从而触发有害输出的一种毒化攻击方法被提出，该方法在输出受限的条件下表现出有害行为，同时保持良好性能。
PDF2 months ago
比赛报告：在对齐的 LLMs 中发现通用越狱后门
大型语言模型的安全对齐问题是一个未来研究的重要领域，此处报告总结了关键发现和对未来研究的有前景的想法。
PDF2 months ago
FedMID：一种使用中间输出作为防御机制防止联邦学习中的中毒攻击的无数据方法
通过对本地模型的中间输出进行功能映射，我们提出了一种新的防御联邦学习中的毒化攻击的方法，实验证明我们的机制在广泛的计算条件和高级攻击场景下都具有鲁棒性，通过联邦学习实现了数据敏感参与者之间更安全的协作。
PDF3 months ago
数据中毒了吗？防御神经网络数据中毒攻击
本研究探讨了对洁净标签下的中毒攻击的防御方法，并提出了一种在迁移学习环境中检测和过滤被中毒数据点的新方法，通过实验分析表明，我们的方法能够在特征向量空间中有效区分有效的中毒点和干净点，并通过多个架构、数据集和中毒预算的比较，充分评估了我们的
PDF3 months ago
虚假还是被篡改？理解联邦学习中的恶意客户
本文通过对文献中提出的各种污染攻击和防御聚合规则进行全面分析，并将它们归纳到一个共同框架下，旨在为从业者和研究人员提供对不同类型的威胁的清晰理解，并确定进一步的研究领域。
PDF4 months ago
FLGuard: 基于对比模型的拜占庭安全联邦学习
FLGuard 是一种新的拜占庭 - 鲁棒联邦学习方法，通过利用对比学习技术检测恶意客户端并丢弃恶意本地更新，设计 FLGuard 作为一种集成方案来最大化其防御能力，在各种中毒攻击下广泛评估 FLGuard，并与现有的拜占庭 - 鲁棒联邦
PDF4 months ago
WWW用伪用户攻击联邦推荐系统
该研究探讨了在联邦推荐系统中执行促销攻击的策略，引入了一种无需额外信息的新型假用户基础的中毒攻击，称为 PoisonFRS，该攻击能有效地促进攻击者选择的目标物品并且在潜在空间中无法区分真实用户和虚假用户的模型更新。
PDF5 months ago
奖励模型学习的偏好污染攻击
从两两比较中学习效用模型或奖励模型是许多应用领域的基础组成部分。我们通过攻击算法的两类不同方法，系统地研究了恶意攻击者通过改变偏好比较数据来达到其目的的潜在性与效果，发现最佳攻击通常能在污染数据仅占 0.3% 情况下取得 100% 的成功率
PDF5 months ago
通过合作训练保护推荐系统
推荐系统中的假账号是一个严重的问题，本论文提出了一个三重协同防御的框架（TCD），旨在通过集成数据处理和鲁棒模型来提高推荐系统的鲁棒性。此外，论文还介绍了一种高效的攻击策略（Co-Training Attack），并将其与 TCD 作为一个
PDF5 months ago