可行解释与被遗忘权之间的权衡

Aug, 2022

On the Trade-Off between Actionable Explanations and the Right to be Forgotten

Martin Pawelczyk, Tobias Leemann, Asia Biega, Gjergji Kasneci

TL;DR本研究探讨在数据删除请求的背景下算法回归失效的问题，理论上和经验上地分析了现有算法回归的行为，提出了一种框架可以识别关键的训练样本，当这些关键训练样本被移除时，会使大多数算法回归失效，从而对数据保护与算法可操作性提出了基本问题。

Abstract

As machine learning (ML) models are increasingly being deployed in high-stakes applications, policymakers have suggested tighter data protection regulations (e.g., GDPR, CCPA). One key principle is the "right to

machine learning data protection algorithmic recourse data deletion requests recourse invalidation

发现论文，激发创造

关于弥合解释权和被遗忘权之间差距的探讨

研究了算法决策及数据使用的解释权和被遗忘权，并提出了解决两种权利的冲突的算法框架，该框架可以生成对于数据删除请求具有鲁棒性的解释，生成的解释可针对线性模型和某些非线性模型进行最坏情况下的数据删除请求保护，经实际数据集实验表明该框架的有效性。

Feb, 2023

机器学习中的数据删除：让人工智能忘掉您

研究了如何在不影响模型质量的情况下，有效地删除机器学习模型中的个人数据，针对 k-means 聚类模型，提出了两个可靠且高效的删除算法，平均删除效率提高了 100 倍以上。

Jul, 2019

机器遗忘的概率验证

该研究提出了一种形式化框架，用于设计验证机制，以验证系统服务提供商是否遵守数据删除请求，该机制基于标准假设检验，提出了一种基于后门的验证机制，可以高度确认数据删除，即使只有 5％的用户参与验证。

Mar, 2020

遗忘机器学习

该研究论文详细介绍了新颁布的 GDPR 法对机器学习模型隐私保护的重要性，针对深度神经网络模型容易遭受信息泄漏攻击的问题提出了 Unlearning 和 Amnesiac Unlearning 两种数据删除方法，实验证明这两种方法可行、安全。

Oct, 2020

算法束缚：从 “解释权” 到 “更好决策权”?

机器学习系统中不公正和歧视的问题引起了对 “解释权” 的关注。该研究对欧洲数据保护法的规定、法国行政法和欧洲理事会 108 号公约草案中的新的解释权进行了分析。虽然个人权利在隐私法中具有一定的作用，但与之相对应的透明度似乎仅仅是治标不治本的手段，因此其他形式的治理手段如影响评估、软性法律、司法审查和模型资源库等应该得到更多的关注，同时，推动代理机构为用户控制算法系统设计也应得到重视。

Mar, 2018

企业级机器去学习中的数据删除

介绍了一种深度神经网络模型生命周期维护过程，使用成员推理攻击作为合规工具来减少重新训练模型的必要性并实现使用数据清除请求。

Dec, 2020

机器学习退训对隐私的危害

本文研究机器取消学习对隐私的影响，并通过提出新型会员推理攻击来论证了取消学习会留下数据迹象，从而产生意外隐私风险。我们提出了四种方法来减轻这些隐私风险，包括发布预测标签，温度缩放和差分隐私。

May, 2020

零样本机器遗忘

本論文提出了一個名為 Zero-shot 機器學習的新問題，探討如何從 MOD 交易所中刪除特定集合或類別的數據，介紹一種基於誤差最小化最大化噪音和門控知識傳遞的解決方案，實驗結果在基準視覺數據集上展示了良好的效果。

Jan, 2022

联邦学习中的被遗忘权利：一种高效的快速重训练实现

本研究旨在研究联邦学习（FL）系统中的机器非重学习问题，提出了一种快速数据淘汰方法以保护数据隐私，并在四项真实数据集上进行了测试和分析。

Mar, 2022

减小数据集偏移对可操作性解释的影响

本文研究了算法决策中 “解释权利” 的问题，并提出了理论和实证分析，表明模型曲率、训练时的权重衰减参数以及数据集变化的程度是影响解释稳定性的关键因素。

Jun, 2023