归纳图遗忘
本文提出了一种专门针对图数据的新型机器取消学习框架 GraphEraser,包括两种新颖的图分区算法和一种基于学习的聚合方法。研究表明,与 SISA 相比,GraphEraser 在取消学习效率和模型效用方面都具有较大优势。
Mar, 2021
通过系统地回顾图解学习的方法,本综述论文旨在增进对新加入该领域的研究人员的理解,与差分隐私建立关联,探索其在不同领域的应用,以增强数据隐私和增强人工智能系统的鲁棒性,并鼓励进一步研究和创新,从而推动图解学习领域的发展。
Aug, 2023
本文提出了第一个已知的图形神经网络认证卸载框架,涉及节点、边缘和节点特征等三种不同类型的卸载请求,致力于在保证性能的情况下解决基准数据集中的复杂卸载问题并优于不利用图形信息的卸载方法。
Jun, 2022
机器遗忘是一种新兴技术,主要研究如何使训练模型忘记一些训练数据。本文提出了一种名为 “目标遗忘” 的更有效和高效的遗忘方案,通过构建一个关键参数的关系图数据结构和基于修剪的遗忘方法,实现从模型中删除部分目标的信息。实验结果验证了该方法的有效性。
Jun, 2024
随着对数据隐私的关注加剧,图神经网络中的遗忘概念成为学术界一个重要的研究前沿,在用户请求下,遗忘概念可以强制从经过训练的图神经网络中有选择地删除特定数据。我们的研究专注于边的遗忘,这一过程在现实世界应用中具有广泛适用性。然而,我们的研究发现当前最先进的方法存在一个关键限制,被称为过度遗忘,即遗忘过程在去除特定数据之外错误地移除了过多信息,从而显著降低了剩余边的预测准确性。为了解决这个问题,我们确定了 GNNDelete 的损失函数作为过度遗忘现象的主要原因,并且我们的分析也表明,损失函数对于有效的边的遗忘可能不是必要的。基于这些认识,我们简化了 GNNDelete 方法,开发出一种名为 UtU 的新方法,它通过对图结构中的忘记边进行断开来方便遗忘。我们进行了大量实验证明,与重新训练模型相比,UtU 在提供隐私保护的同时保持了高准确性。具体而言,UtU 保留了超过 97.3% 的重新训练模型的隐私保护能力和 99.8% 的链接预测准确性。同时,UtU 仅需要恒定的计算需求,凸显了其作为一种轻量且实用的边的遗忘解决方案的优势。
Feb, 2024
通过互相进化的图形反学习(MEGU),我们提出了一种新的互相进化模式,同时发展了图形反学习的预测和学习能力,解决了在 AI 应用中数据隐私和模型健壮性的增长需求。
Jan, 2024
该调查提供了机器遗忘技术的简明评估,概述了准确和近似方法、可疑攻击和验证方法,并比较了每种方法的优点和局限性,评估了它们的性能,突出了挑战性的需求。提供强大的非 IID 删除模型以缓解公平性问题,并指出该领域未来的研究方向,旨在为寻求在 ML 系统中提供隐私和平等的研究人员和从业者提供有价值的资源。
May, 2023
知识蒸馏在图取消学习领域具有重要作用,D2DGN 是一种模型不可知的蒸馏框架,通过使用响应为基础的软目标和基于特征的节点嵌入,最小化 KL 散度,有效消除已删除图元素的影响同时保留有关保留图元素的知识。实验证明,在各种真实世界图数据集上,D2DGN 在边和节点取消学习任务中的 AUC 性能比现有方法提高了高达 43.1%(AUC)。
Sep, 2023
本论文提出了 RecEraser,一种针对推荐任务的通用,高效的机器遗忘框架,该框架将培训集分为多个分片,并为每个分片训练一个组成模型。通过三种新颖的数据分区算法将培训数据分成基于它们相似性的平衡组,然后提出一种自适应聚合方法来提高全局模型效用,实验结果表明,RecEraser 不仅可以实现高效的遗忘,而且在模型效用方面也优于最先进的遗忘方法。
Jan, 2022
该研究综述了现有的机器去学习方法,系统地分类并讨论了其差异、联系和开放问题,包括集中式去学习、分布式和不规则数据去学习、去学习验证以及隐私和安全问题,并提出了潜在的研究方向。
May, 2024