隐私保护的数据增强与机器遗忘实现的去偏移

Apr, 2024

隐私保护的数据增强与机器遗忘实现的去偏移

Privacy-Preserving Debiasing using Data Augmentation and Machine Unlearning

Zhixin Pan, Emma Andrews, Laura Chang, Prabhat Mishra

TL;DR我们提出了一种有效的数据增强和机器遗忘的组合方法，可以减少数据偏差并提供对已知攻击的可证明防御。具体而言，我们利用基于扩散的数据增强来维护训练模型的公平性，并利用多分片遗忘来从机器学习模型中删除原始数据的识别信息，以保护隐私免受攻击。通过对不同数据集的实验评估表明，我们的方法在减少偏差和抵抗最新隐私攻击方面取得了显著改进。

Abstract

data augmentation is widely used to mitigate data bias in the training dataset. However, data augmentation exposes machine learning models to privacy attacks, such as membership inference attacks. In this paper,

data augmentation privacy attacks machine unlearning diffusion-based data augmentation multi-shard unlearning

发现论文，激发创造

数据增强对机器学习隐私的影响是什么？

本文挑战了数据增广可以有效缓解成员推断秘密攻击（MI）的这一观察，并提出利用增广数据信息的新的 MI 攻击。实验结果表明，使用本文提出的方法可以普遍优于没有使用增广数据的方法，且可以在某些增广数据的模型上成功率更高，这表明了使用增广数据所带来的隐私风险可能被大大低估。

Jul, 2020

暗影中的曙光：利用成员推断进行机器去学习

通过创造一种新的损失函数，将目标分类损失和成员推断损失相结合，用于从神经网络中删除敏感信息的机器遗忘机制，本研究通过成员推断机制作为概念验证，提供了实验证据，证明了我们的遗忘方法在遗忘效果、延迟和主要任务准确性方面的优越性。

Jul, 2024

数据混淆实现隐私保护机器学习

该论文提出了一种新的通用方法 —— 混淆函数，可在不泄露机器学习训练数据的前提下保护其中的隐私信息，并成功地抵御了四种现有的机器学习隐私攻击。

Jul, 2018

遗忘而不被遗忘：机器遗忘的改进基准

机器学习模型存在安全漏洞，包括泄漏关于模型的训练数据的攻击。该研究探讨如何在隐私保护问题中有效应对数据删除需求，通过有效更新已训练模型的机器遗忘算法，以维持模型性能，避免重新训练模型的代价。本文提出了替代性的算法评估方法，通过针对图像识别数据集的实验，对当前机器遗忘算法进行更详细的评估，展示了该领域的最新状况。

May, 2024

机器学习退训对隐私的危害

本文研究机器取消学习对隐私的影响，并通过提出新型会员推理攻击来论证了取消学习会留下数据迹象，从而产生意外隐私风险。我们提出了四种方法来减轻这些隐私风险，包括发布预测标签，温度缩放和差分隐私。

May, 2020

纠正机器遗忘

机器学习模型面对大规模互联网数据集引起的数据完整性挑战，本研究探讨在检测到数据被篡改或错误时模型开发者能够做出的应对措施。我们将 “修正机器遗忘” 定义为解决训练模型中受未知篡改影响数据的问题，尽管只能知道受影响样本的一个小部分。我们发现修正遗忘问题与传统的注重隐私的遗忘方法有显著不同的要求。我们希望我们的工作能促进对修正遗忘方法的研究，为处理来自于大规模网络训练带来的数据完整性挑战的从业者提供新的策略。

Feb, 2024

对抗式机器遗忘

该论文提出了一个游戏理论框架，将成员推理攻击（MIAs）与机器遗忘算法的设计整合在一起，从而以对抗性的方式主动地将攻击纳入算法设计中，利用隐式微分限制攻击者的成功，以实现从模型中遗忘特定的训练数据。

Jun, 2024

深度学习中的数据增强与可解释性用于发现和减轻偏见

该论文探讨了深度神经网络中的偏见对模型性能的影响，并提出了降低其影响的方法。论文分为两个部分，第一部分关注机器学习流程中的偏见和错误，介绍了可解释人工智能的分类和方法，并提出了一种半自动数据探索方法用于发现潜在的数据偏见。第二部分重点讨论了降低偏见对机器学习模型影响的三种方法：样式迁移数据增强、针对性数据增强和归因反馈。这些方法的目标是减少偏见对机器学习模型的影响，而不是完全消除。

Aug, 2023

具有自动转换搜索的隐私保护协作学习

本论文提出了一种基于数据增强的解决方案，以防止敌对方从共享的梯度中恢复训练数据，文中使用创新的搜索方法发现数据增强策略，并使用两个新的度量指标来评估策略的影响，实验结果表明该方法能够高效地击败现有的重建攻击，对模型性能影响微不足道。

Nov, 2020

机器特征与标签的无关量度探索

面对分布变化的复杂机器遗忘问题，特别关注非均匀特征和标签删除带来的挑战，本研究提出了一种基于影响函数和分布独立原理的新方法，以解决隐私保护和模型性能之间的平衡，通过在多样分布下维护模型的性能和适应性，确保数据去除的高效性及动态调整模型以保持泛化能力，通过广泛实验验证了方法的有效性，对机器遗忘领域做出了重大贡献。

Mar, 2024