Jan, 2022

对抗 IoMT 数据中的模型反演攻击的分裂梯度分离学习防御

PDF
TL;DR本研究提出了一种名为 PSGL 的方法，通过攻击廓清晰度和深度神经网络的训练过程，并引入贴近梯度方法来防御模型反演攻击，并在公开数据集上取得 14.0％、17.9％和 36.9％的诊断准确率提升。
artificial intelligencedeep learning networksinternet of medical thingsadversarial attacksproximal gradient split learning
发现论文，激发创造
  • 语义分割的近端分裂对抗攻击

    该论文提出了一种基于近端分裂的白盒攻击方法，通过自适应约束缩放和掩蔽策略，在非凸规划框架内处理大量约束，有效地解决了对分割模型的敌对攻击问题。该攻击方法明显优于以前提出的方法，为此密集任务提供了首个全面的基准测试。

    Jun, 2022

  • 拆分神经网络防御模型反演攻击的实用策略

    本文介绍了在分裂网络联合学习模型下，攻击者可以通过模型倒置的攻击手段窃取用户隐私数据，并提出了一种基于简单的加性噪声方法以保护用户数据隐私，同时本文通过对比分析显示，采用现有的方法并不能完全防御攻击，需要采用多种组合的防御策略。

    Apr, 2021

  • 减少梯度逼近的对抗训练成本

    采用梯度逼近的对抗训练方法能够减少建立稳健模型的成本，而对于常见数据集如 MNIST、CIFAR-10 和 CIFAR-100，该方法在训练时间上节省了高达 60% 的时间，并且在模型测试准确性上没有明显损失。

    Sep, 2023

  • 基于伪标签引导的条件生成对抗网络模型反演攻击

    提出一种基于条件 GAN 的 PLG-MI 攻击策略，通过引入伪标签将搜索空间解耦，采用最大间隔损失改善目标分类的子空间搜索，实验表明本文方法攻击成功率和可视化质量效果明显优于当前先进攻击方法，特别是在大型分布转移下表现出 2~3 倍的优势。

    Feb, 2023

  • 关于分割学习的数据无关模型反演、模型窃取和标签推理攻击

    通过两种新攻击方法，我们表明 Split learning 算法不能保障训练数据和模型参数的安全，因此提供的隐私保护是虚假的。

    Aug, 2021

  • GI-SMN：无先验知识的反梯度逆转攻击对抗联邦学习

    通过 Style Migration Network（GI-SMN）提出了一种新的梯度逆转攻击方法，它打破了以往梯度逆转攻击所做的强假设，在批处理中实现了高相似度的用户数据重建，同时超越了当前的梯度逆转攻击方法和差分隐私防御方法。

    May, 2024

  • 联邦扩散模型的梯度反演

    我们研究了扩散模型在生成高分辨率图像数据方面的应用，使用基于梯度的协作训练方法，我们设计了一种融合优化模型（GIDM），以减小梯度反演攻击的风险，并进一步提出了三重优化模型（GIDM+）来解决隐私保护方面的挑战。通过广泛的评估结果，我们发现共享梯度对于扩散模型的数据保护存在漏洞，即使是高分辨率图像也可以被高质量地重建。

    May, 2024

  • Transformer 中梯度泄漏的攻击和防御的理论洞察

    梯度泄漏攻击与防御策略的全面分析，为基于变压器模型的隐私保护技术的发展做出了积极贡献，旨在促进保护敏感数据和在变压器模型背景下维护隐私的进展。

    Nov, 2023

  • SplitGuard：在分布式学习中检测和缓解训练劫持攻击

    本文提出 SplitGuard 方法来检测分布式深度学习模型中的训练劫持攻击，以保障数据私密性的同时，最大化减少敏感信息恢复的风险。

    Aug, 2021

  • 反推攻击图神经网络模型

    该论文对 GNNs 进行了系统研究，提出了 GraphMI 方法用于推断私有训练数据中的离散边缘，建议更有效的隐私防御措施。

    Sep, 2022