边界遗忘
我们提出了一种新的类别遗忘算法,通过估计待保留和遗忘类别的特征或激活空间,并计算这些空间之间的共享信息,从而实现有效的机器遗忘,并在各种图像分类数据集和网络架构中相比其他基准算法效果明显提高,且计算效率提高了约 6 倍。
Dec, 2023
该研究提出了一种在机器学习中,通过层攻击遗忘和知识蒸馏来解决训练集中的个人数据隐私问题的快速机器遗忘范式,通过大量实验证明了该方法在准确性和全链路遗忘性能上的有效性。
Dec, 2023
该调查提供了机器遗忘技术的简明评估,概述了准确和近似方法、可疑攻击和验证方法,并比较了每种方法的优点和局限性,评估了它们的性能,突出了挑战性的需求。提供强大的非 IID 删除模型以缓解公平性问题,并指出该领域未来的研究方向,旨在为寻求在 ML 系统中提供隐私和平等的研究人员和从业者提供有价值的资源。
May, 2023
这篇研究论文提出了一种名为部分盲目遗忘(PBU)的新方法,通过从预训练的分类网络中有选择地删除与特定数据类别相关的信息,实现对特定数据类别的有意去除,以降低模型对该类别数据的性能影响,且无需了解整个训练数据集,仅需了解未遗忘数据点。
Mar, 2024
通过在扩散模型中引入一种取消学习算法,以解决与数据遗忘和隐私保护相关的问题。我们将取消学习问题建模为一个双层优化问题,并采用一阶方法来解决该问题,从而在保留模型效用的同时清除与忘记数据相关的信息。在实验证明我们的算法能够有效地移除两个广泛使用的扩散模型中的数据,并在条件和非条件图像生成场景中保持模型的效用、有效性和效率。
Jan, 2024
随着对数据隐私的关注加剧,图神经网络中的遗忘概念成为学术界一个重要的研究前沿,在用户请求下,遗忘概念可以强制从经过训练的图神经网络中有选择地删除特定数据。我们的研究专注于边的遗忘,这一过程在现实世界应用中具有广泛适用性。然而,我们的研究发现当前最先进的方法存在一个关键限制,被称为过度遗忘,即遗忘过程在去除特定数据之外错误地移除了过多信息,从而显著降低了剩余边的预测准确性。为了解决这个问题,我们确定了 GNNDelete 的损失函数作为过度遗忘现象的主要原因,并且我们的分析也表明,损失函数对于有效的边的遗忘可能不是必要的。基于这些认识,我们简化了 GNNDelete 方法,开发出一种名为 UtU 的新方法,它通过对图结构中的忘记边进行断开来方便遗忘。我们进行了大量实验证明,与重新训练模型相比,UtU 在提供隐私保护的同时保持了高准确性。具体而言,UtU 保留了超过 97.3% 的重新训练模型的隐私保护能力和 99.8% 的链接预测准确性。同时,UtU 仅需要恒定的计算需求,凸显了其作为一种轻量且实用的边的遗忘解决方案的优势。
Feb, 2024
本論文提出了一個名為 Zero-shot 機器學習的新問題,探討如何從 MOD 交易所中刪除特定集合或類別的數據,介紹一種基於誤差最小化最大化噪音和門控知識傳遞的解決方案,實驗結果在基準視覺數據集上展示了良好的效果。
Jan, 2022