双向依赖优化：抵御模型反演攻击

KDDJun, 2022

双向依赖优化：抵御模型反演攻击

Bilateral Dependency Optimization: Defending Against Model-inversion Attacks

Xiong Peng, Feng Liu, Jingfen Zhang, Long Lan, Junjie Ye...

TL;DR本文提出了一种双边依赖优化策略，旨在同时最小化潜在表示和输入之间的依赖关系，同时最大化潜在表示和输出之间的依赖关系，用作一种普遍适用的正则项，以防御模型反演攻击，在多个数据集，分类器和攻击中达到了最先进的防御性能。

Abstract

Through using only a well-trained classifier, model-inversion (MI) attacks can recover the data used for training the classifier, leading to the privacy leakage of the training data. To defend against MI attacks, previous work utilizes a unilateral dependency optimization strategy, i.e

model-inversion attacks privacy leakage unilateral dependency optimization strategy bilateral dependency optimization strategy deep neural networks

发现论文，激发创造

通过互信息正则化提高模型抗模型反演攻击的鲁棒性

该研究提出了一种基于互信息正则化的防御模型反演攻击的方法，通过限制模型输入中包含的信息，从而限制对手从模型预测中推断出私有属性的能力。此方法能够应用于多种模型并在保护隐私和工具合理性方面取得更好的平衡。

Sep, 2020

重新思考对深度神经网络的模型反演攻击

本文提出了两个能够有效提高现有所有最优模型对抗攻击性能的解决方案：对现有最优模型对抗攻击算法的优化目标进行分析并提出了改进的优化目标，以及分析了 “过度拟合” 并提出了一种新的 “模型增强” 思想来克服这个问题。实验证明，这些提出的解决方案能使现有的最优模型对抗攻击算法准确率提高 11.8％。

Apr, 2023

模型逆向鲁棒性：迁移学习是否有所帮助？

使用迁移学习为基础的防御方法可以提高模型的抵抗性，限制编码敏感信息的层数，从而降低模型逆推攻击的性能。

May, 2024

通过边界排斥实现标签型模型反演攻击

该研究提出了一种名为 BREP-MI 的算法，该算法可以在隐私保护的前提下，仅通过目标模型的预测标签来还原出目标类别的私有训练数据，并在人脸识别等任务中进行了验证。

Mar, 2022

一次难以防御的攻击：通过条件扩散模型实现仅凭标签进行的模型推断

本文提出了在标签黑盒情况下使用条件扩散模型的新型 MIA 方法，可以在不需要额外优化的情况下恢复目标的精确样本，并将 Learned Perceptual Image Patch Similarity 作为评估度量之一进行系统定量和定性评估，实验证明，该方法可以在标签黑盒情况下生成与目标相似且准确的数据，并且优于先前方法的生成器

Jul, 2023

知识增强的分布式模型反演攻击

本文提出了一种基于 Inversion-specific GAN 的新型模型反演攻击方法，通过训练鉴别器不仅区分真伪样本，而且包括目标模型提供的软标签，进而为每个目标类建模私人数据分布，成功率比先前的攻击方式有所提高（150%），而且普适于多种数据集和模型。

Oct, 2020

通过动态记忆学习的模型逆推攻击

提出了一种新颖的动态记忆模型逆向攻击（DMMIA），它利用历史学习的知识与样本交互来诱导多样性生成，并通过构建两种类型的原型（被称为 Intra-class Multicentric Representation 和 Inter-class Discriminative Representation）注入关于历史学习知识的信息，从而获得更具多样性和区分性的生成结果。实验证明，DMMIA 攻击方法优于现有的模型逆向攻击方法。

Aug, 2023

基于模型的优化的模型反演网络

本文介绍了使用模型反演网络 (MINs) 解决数据驱动最优化问题的方法，并且使其能够应对高维空间且只有少数有效输入的情况下如何避免越界和无效输入等问题。

Dec, 2019

双重阻挠：利用迁移学习和随机化来阻止仅标签成员推导攻击

使用 Transfer Learning（TL）和随机化相结合的 Double-Dip 方法，通过降低过拟合 DNN 对隐私攻击的脆弱性，显著提高非成员的分类准确性，以及减少标签推理攻击的成功率。

Feb, 2024

DNN 隐私泄露：模型倒置攻击和防御方法的调查

模型反演攻击致力于利用对预训练模型的访问权限揭示关于训练数据的私密信息，这些攻击使得对与私密训练数据密切一致的高保真数据的重建成为可能，从而引发了重大的隐私担忧。尽管该领域取得了快速的进展，但我们仍然缺乏对现有模型反演攻击和防御方法的全面概述。为了填补这一空白，本文对该领域进行了深入研究，并提出了综合调查报告。首先，本文简要回顾了机器学习场景下传统的模型反演方法。然后，对多种模态和学习任务下深度神经网络 (DNNs) 的近期攻击和防御方法进行了详细分析和比较。

Feb, 2024