机器学习中的数据删除：让人工智能忘掉您

Jul, 2019

机器学习中的数据删除：让人工智能忘掉您

Making AI Forget You: Data Deletion in Machine Learning

Antonio Ginart, Melody Y. Guan, Gregory Valiant, James Zou

TL;DR研究了如何在不影响模型质量的情况下，有效地删除机器学习模型中的个人数据，针对 k-means 聚类模型，提出了两个可靠且高效的删除算法，平均删除效率提高了 100 倍以上。

Abstract

Intense recent discussions have focused on how to provide individuals with control over when their data can and cannot be used --- the EU's Right To Be Forgotten regulation is an example of this effort. In this paper we initiate a framework studying what to do when it is no longer permissible to deploy models derivative from specific user data. In particular

data control machine learning data deletion efficiency k-means clustering

发现论文，激发创造

机器学习模型中的数据近似删除

本文提出了一种新的线性模型和逻辑模型的近似删除方法，其计算成本在特征维度 d 上是线性的，并且独立于训练数据数量 n。我们还开发了一种新的特征注入测试方法，以评估从机器学习模型中删除数据的彻底性。

Feb, 2020

遗忘机器学习

该研究论文详细介绍了新颁布的 GDPR 法对机器学习模型隐私保护的重要性，针对深度神经网络模型容易遭受信息泄漏攻击的问题提出了 Unlearning 和 Amnesiac Unlearning 两种数据删除方法，实验证明这两种方法可行、安全。

Oct, 2020

机器遗忘的概率验证

该研究提出了一种形式化框架，用于设计验证机制，以验证系统服务提供商是否遵守数据删除请求，该机制基于标准假设检验，提出了一种基于后门的验证机制，可以高度确认数据删除，即使只有 5％的用户参与验证。

Mar, 2020

可行解释与被遗忘权之间的权衡

本研究探讨在数据删除请求的背景下算法回归失效的问题，理论上和经验上地分析了现有算法回归的行为，提出了一种框架可以识别关键的训练样本，当这些关键训练样本被移除时，会使大多数算法回归失效，从而对数据保护与算法可操作性提出了基本问题。

Aug, 2022

公平的机器遗忘：数据去除与减轻偏差

在本研究中，我们提出了第一个可以证明并高效地消除数据实例并保持公平性的机器遗忘方法。通过理论结果和对真实世界数据集的广泛实验，我们展示了我们的方法在消除数据实例的同时保持公平性的功效。

Jul, 2023

机器学习退训对隐私的危害

本文研究机器取消学习对隐私的影响，并通过提出新型会员推理攻击来论证了取消学习会留下数据迹象，从而产生意外隐私风险。我们提出了四种方法来减轻这些隐私风险，包括发布预测标签，温度缩放和差分隐私。

May, 2020

零样本机器遗忘

本論文提出了一個名為 Zero-shot 機器學習的新問題，探討如何從 MOD 交易所中刪除特定集合或類別的數據，介紹一種基於誤差最小化最大化噪音和門控知識傳遞的解決方案，實驗結果在基準視覺數據集上展示了良好的效果。

Jan, 2022

删除我的账户：数据删除对机器学习分类器的影响

研究论文通过不同实验和假设，深入分析了使用《一般数据保护条例》中的《被遗忘权》对机器学习模型在分类任务中的性能影响，并揭示了数据删除的数量、数据集特征和删除偏差以及用户行为假设对机器学习数据质量造成的影响。

Nov, 2023

文档分类的机器去学习

研究论述了文档理解模型在用户文档集合的基础上取得的显著性能，介绍了机器遗忘的新方法，探索了将其应用于文档分类问题以解决隐私问题，并提供了公开可用的代码。

Apr, 2024

联邦学习中的被遗忘权利：一种高效的快速重训练实现

本研究旨在研究联邦学习（FL）系统中的机器非重学习问题，提出了一种快速数据淘汰方法以保护数据隐私，并在四项真实数据集上进行了测试和分析。

Mar, 2022