poisoning attack | BriefGPT

关键词poisoning attack

搜索结果 - 12

基于 GAN 的数据污染框架用于对抗垂直联邦学习中的异常检测
在垂直联邦学习中，通过保护数据隐私，商业实体共同训练一个模型。然而，恶意参与者的毒化攻击可能会降低这个合作模型的性能。为了解决这个挑战，本文引入了一种创新的端到端毒化框架 P-GAN。同时，我们还开发了一种基于深度自编码器（DAE）的异常检
PDF6 months ago
防止联邦学习中的中毒攻击的 NextG 系统安全保障：一种博弈论解决方案
本研究探讨了分布式学习系统中的毒化攻击和防御交互，特别是在使用深度学习进行无线信号分类的下一代通信（NextG）的背景下。通过利用地理分散的客户端，全局模型的训练在无需客户端交换数据样本的情况下进行，用于保护现有用户识别，促进频谱共享。然而
PDF6 months ago
通过在 NeRF 中进行空间变形，保护隐私信息
本研究通过一个创新的攻击方法，引入了一个保护用户隐私免受神经辐射场（NeRF）模型生成能力影响的方法。我们的方法通过对被观察视图进行几乎不可察觉的改动，从而扰乱了 NeRF 对 3D 场景的准确重构能力。我们使用一个双层优化算法，结合了基于
PDF9 months ago
基于中毒攻击的联邦学习隐蔽通信
本研究提出了一种基于毒化攻击的联邦学习中隐蔽通信的新方法，可以实现 100% 的信息隐藏和传输，并证明了该方法的隐蔽和鲁棒性。然而，现有的防御方法对我们的攻击方案效果有限，强调了需要开发新的保护方法。该研究强调了在隐蔽通信方面的研究的必要性
PDFa year ago
行动 66 号：面向强化学习的有针对性数据毒化
该研究提出了一种针对强化学习的隐匿性数据污染攻击，使用最新的梯度对齐技术，仅对少量的训练数据进行最小限度的修改，而不需要对策略或奖励进行任何控制，目的在于仅在特定目标状态下导致智能体总体表现不佳，在两个难度不同的 Atari 游戏中进行了实
PDF3 years ago
AAAI难以忘怀：基于认证机器遗忘的毒化攻击
本文研究用户信息的删除和机器去学习概念，阐述了目前保证用户隐私的方法以及可能出现的潜在攻击方式，其中特别探讨了有意设计的训练数据能触发完全重新训练的中毒攻击。
PDF3 years ago
中毒的分类器不仅被植入后门，而且本质上已经失效
本文提出了一种新的被污染分类器的威胁模型，并通过测试时间、人机交互式攻击方法生成多个有效的替代触发器，以应对被污染分类器的多方攻击，同时也比以前的工作更加可扩展和高效。该攻击方法是由解决对抗样本问题的平滑方法和人机交互式颜色和图像裁剪技术共
PDF4 years ago
恶意行为软件聚类中毒攻击
针对恶意软件行为聚类算法的恶意注入攻击问题，实验证明开源工具 Malheur 容易受到攻击，提出了可能的对策，需要更安全的聚类算法。
PDF6 years ago
通过激活聚类检测深度神经网络的后门攻击
本文提出了一种新的神经网络后门检测和修复方法，经过广泛的实验结果证明了其对文本和图像分类的有效性。该方法是针对机器学习训练数据可能不可信，恶意攻击者可能通过植入精心制作的样本来攻击系统的现实情况，是首个不需要可验证和可信数据集即可检测和修复
PDF6 years ago
神经网络生成对抗攻击方法
本论文研究了在机器学习算法中，特别是深度神经网络中毒攻击的方法，提出了生成毒瘤数据的生成方法，并设计了一种检测方法来检测这种攻击。实验结果表明，与直接梯度法相比，这种方法可以加速毒瘤数据的生成速度高达 239.38 倍，且模型的准确度下降略
PDF7 years ago
Curie: 一种保护 SVM 分类器免受污染攻击的方法
本文介绍了机器学习在安全相关应用中的应用，探讨了一种针对机器学习的因果完整性攻击，提出了名为 Curie 的一种方法来保护 SVM 分类器对抗黄染攻击并且实验证明了该方法的有效性。
PDF8 years ago
在线质心异常检测的安全性分析
本文讨论机器学习中的安全问题，侧重于人类活动而不是自然现象中的一些应用，例如信息排序、垃圾邮件检测和恶意软件检测。对于这种情况，训练算法必须处理旨在阻碍决策制定的操纵数据。本文通过分析在线重心异常检测方法的性能，评估了在对抗噪声条件下它的防
PDF14 years ago