该论文提出了一个游戏理论框架，将成员推理攻击（MIAs）与机器遗忘算法的设计整合在一起，从而以对抗性的方式主动地将攻击纳入算法设计中，利用隐式微分限制攻击者的成功，以实现从模型中遗忘特定的训练数据。

Jun, 2024

这项研究提出了一种新的、可靠的方法来实证评估机器遗忘算法，为更有效的遗忘技术的发展铺平了道路。

Apr, 2024

机器学习模型存在安全漏洞，包括泄漏关于模型的训练数据的攻击。该研究探讨如何在隐私保护问题中有效应对数据删除需求，通过有效更新已训练模型的机器遗忘算法，以维持模型性能，避免重新训练模型的代价。本文提出了替代性的算法评估方法，通过针对图像识别数据集的实验，对当前机器遗忘算法进行更详细的评估，展示了该领域的最新状况。

May, 2024

开发用于消除模型训练影响的非学习技术，研究了基于反向学习设置的成员推断攻击 (U-MIA)，发现不同类别的 U-MIA 强度与基于视觉和语言模型的现有非学习技术所提供的隐私保护高度相关，同时揭示了几种非学习算法对不同训练示例的潜在漏洞，以及保护所有示例的困难和试图适应停止条件的失败。

Mar, 2024

通过创造一种新的损失函数，将目标分类损失和成员推断损失相结合，用于从神经网络中删除敏感信息的机器遗忘机制，本研究通过成员推断机制作为概念验证，提供了实验证据，证明了我们的遗忘方法在遗忘效果、延迟和主要任务准确性方面的优越性。

Jul, 2024

机器反学习（MU）通过从训练模型中删除有关 “遗忘数据” 样本的信息来解决隐私问题。我们质疑使用现有的评估方法是否有效，并提出了一种量化中间特征中关于遗忘数据样本的剩余信息的度量指标，称为信息差异指数（IDI），以更好地评估 MU 方法。IDI 通过高效地分析 DNNs 的内部结构来提供综合评估。

May, 2024

通过引入替代机制和定义虚假标签，本研究提出了一种级联取消学习方法，以在生成对抗网络中实现项目取消学习和类别取消学习，通过对 MNIST 和 CIFAR-10 数据集的综合评估，实验证明该方法在项目和类别取消学习效率方面显著提高，与从头开始重新训练相比，所需时间分别减少了最多 185 倍和 284 倍，值得注意的是，虽然模型的性能在取消学习后有轻微下降，但在处理少量图像（例如 64 张）时，该下降是可以忽略的，并且对分类等下游任务没有不良影响。

Aug, 2023

本文研究了在已训练好的模型中删除数据点的相关问题，特别是在凸损失的情况下提供了一个算法来取消学习的样本数，与差分隐私学习相比，演示了差分隐私和机器遗忘之间的新颖区别。

Mar, 2021

我们提出了一种对比遗忘框架，利用表示学习的概念，从而更有效地消除一部分训练样本（即遗忘样本）对经过训练的模型产生的影响。通过将遗忘样本的嵌入与其余样本进行对比，使其远离原始类别并被拉向其他类别，通过直接优化表示空间，有效地消除了遗忘样本的影响，同时保持了从其余样本学习到的表示。在各种数据集和模型上进行的实验证明，与最先进的算法相比，对比遗忘实现了最佳的遗忘效果和效率，同时性能损失最小。

Jan, 2024

通过攻击和屏蔽网络参数中的特定信息，我们提出了一种名为 ARU 的新方法，该方法使用精心设计的对抗性噪声生成参数屏蔽，有效地重置某些参数，使其无法再进行学习。通过利用对抗性噪声来制作屏蔽，我们在两个面部机器遗忘基准数据集 MUFAC 和 MUCAC 上取得了超越当前最先进结果的表现。我们的研究在通过参数重新初始化实现使数据无法被深度学习模型利用方面取得了重大进展。

Jan, 2024