我们提出了一种机器遗忘的方法，既无需重训练也无需标记。通过使用基于模型输出的 L2 范数梯度来近似敏感性，我们将 Fisher 信息矩阵的对角线替换为 Selective Synaptic Dampening 算法的扩展。通过在 ResNet18 和 Vision Transformer 上进行一系列实验的评估结果表明，我们的无需标记的方法与现有的最先进方法相竞争。

Feb, 2024

数据输入作为机器学习流程的基本组成部分，常常会引入标签错误。本文通过引入自适应选择性突触减弱（ASSD）方法，解决了无法确定错误数据的正确标签的数据输入错误情况，并在供应链延迟预测问题中使用真实数据进行了性能验证，表明 ASSD 在一般的非学习任务和错误修正问题上表现出色。

Feb, 2024

我们提出了一种新的类别遗忘算法，通过估计待保留和遗忘类别的特征或激活空间，并计算这些空间之间的共享信息，从而实现有效的机器遗忘，并在各种图像分类数据集和网络架构中相比其他基准算法效果明显提高，且计算效率提高了约 6 倍。

Dec, 2023

机器遗忘方法针对用户隐私保护目标有重要作用，但会带来大量计算成本。我们提出了细粒度 Top-K 和 Random-k 参数扰动的不精确机器遗忘策略，以在保持可计算性开销的同时满足隐私需求。我们还引入了评估机器遗忘效果和模型泛化能力的新指标 —— 遗忘率和记忆保留率。通过实施这些创新技术和指标，我们在不显著牺牲模型性能的前提下实现了高效的隐私保护，并提供了一种评估遗忘程度的新方法。

Jan, 2024

本文介绍了一种基于错误最大化噪声生成和损坏修复的权重操作方法的机器遗忘框架，该方法可以高效地针对单个或多个类别的数据从机器学习模型中删除，同时保持模型的高准确性，并且适用于各种深度网络设计，可为深度网络中的遗忘操作提供一种快捷且易于实现的方法。

Nov, 2021

机器遗忘旨在维护数据所有者的被遗忘权利，通过使模型有选择地忘记特定的数据。我们提出了一种基于 Hessian 的在线遗忘方法，通过计算学习模型和重新训练模型之间差异的仿射随机递归近似，为每个数据点维护一个统计向量，实现了几乎瞬时的在线遗忘，只需进行向量相加操作。基于重新收集遗忘数据的统计信息的策略，所提出的方法显著减少了遗忘运行时间。实验研究表明，所提出的方案在时间和内存成本方面的性能超过了现有结果，同时提高了准确性。

Apr, 2024

使用随机网络作为教师，可以快速减轻被遗忘数据对模型的影响，实现模型的一次性擦除和重构，并取得与重新训练后模型相同的性能。

Aug, 2023

基于离散表示瓶颈的几乎无计算成本的零样本遗忘技术能有效遗忘忘记集，对数据集余下的部分几乎没有性能损失，并在 CIFAR-10、CIFAR-100 和 LACUNA-100 的三个数据集上进行了评估，与知识蒸馏用于遗忘的先进方法 SCRUB 相比，这种技术表现出与 SCRUB 几乎无计算成本相当甚至更好的性能。

Nov, 2023

该研究旨在调查机器遗忘（MU），这是一个新兴领域，专注于解决神经模型意外保留个人或敏感数据的问题。本文介绍了一种新的方法，以实现语言模型内的精确选择性遗忘，并提出了两个创新的评估指标：敏感信息提取可能性（S-EL）和敏感信息记忆准确性（S-MA），用于衡量消除敏感信息的有效性。为了加强遗忘框架，提出了一种有效的敏感区域注释方法，包括在线和离线策略。在线选择机制利用语言概率得分确保计算效率，而离线注释则采用基于大型语言模型（LLMs）的强大两阶段过程。

Feb, 2024

机器学习模型面对大规模互联网数据集引起的数据完整性挑战，本研究探讨在检测到数据被篡改或错误时模型开发者能够做出的应对措施。我们将 “修正机器遗忘” 定义为解决训练模型中受未知篡改影响数据的问题，尽管只能知道受影响样本的一个小部分。我们发现修正遗忘问题与传统的注重隐私的遗忘方法有显著不同的要求。我们希望我们的工作能促进对修正遗忘方法的研究，为处理来自于大规模网络训练带来的数据完整性挑战的从业者提供新的策略。

Feb, 2024