认证图形遗忘
通过系统地回顾图解学习的方法,本综述论文旨在增进对新加入该领域的研究人员的理解,与差分隐私建立关联,探索其在不同领域的应用,以增强数据隐私和增强人工智能系统的鲁棒性,并鼓励进一步研究和创新,从而推动图解学习领域的发展。
Aug, 2023
随着对数据隐私的关注加剧,图神经网络中的遗忘概念成为学术界一个重要的研究前沿,在用户请求下,遗忘概念可以强制从经过训练的图神经网络中有选择地删除特定数据。我们的研究专注于边的遗忘,这一过程在现实世界应用中具有广泛适用性。然而,我们的研究发现当前最先进的方法存在一个关键限制,被称为过度遗忘,即遗忘过程在去除特定数据之外错误地移除了过多信息,从而显著降低了剩余边的预测准确性。为了解决这个问题,我们确定了 GNNDelete 的损失函数作为过度遗忘现象的主要原因,并且我们的分析也表明,损失函数对于有效的边的遗忘可能不是必要的。基于这些认识,我们简化了 GNNDelete 方法,开发出一种名为 UtU 的新方法,它通过对图结构中的忘记边进行断开来方便遗忘。我们进行了大量实验证明,与重新训练模型相比,UtU 在提供隐私保护的同时保持了高准确性。具体而言,UtU 保留了超过 97.3% 的重新训练模型的隐私保护能力和 99.8% 的链接预测准确性。同时,UtU 仅需要恒定的计算需求,凸显了其作为一种轻量且实用的边的遗忘解决方案的优势。
Feb, 2024
我们提出了一种有效、高效、模型无关的后处理方法来实现动态图神经网络的去学习,通过定义去学习请求并在连续时间动态图的背景下形成动态图的去学习,通过对去学习数据、剩余数据和目标动态图神经网络模型进行角色分析,我们提出了一种称为梯度变换和损失函数的方法,将去学习请求映射到所需的参数更新。我们在六个真实世界数据集和最先进的动态图神经网络骨干上进行评估,证明了其效果(例如,性能下降有限,甚至明显改进),效率(例如,最多 7.23 倍加速)和处理未来去学习请求的潜在优势(例如,最多 32.59 倍加速)。
May, 2024
该研究提出了一种在归纳图学习任务中高效实现的、适用于动态图的图表征删除框架 GUIDE,它由三个组件组成:具有公平性和平衡性的引导图分区,高效的子图修复以及基于相似性的聚合。
Apr, 2023
本研究提出了一种名为 GNNDelete 的新型模型级层操作符,它优化了图形撤销的关键性质,确保了已学习到的知识在删除节点和边缘的同时保留,并在七个真实世界的图表上展示了优于现有方法的性能提升高达 38.8%(AUC)的结果。
Feb, 2023
知识蒸馏在图取消学习领域具有重要作用,D2DGN 是一种模型不可知的蒸馏框架,通过使用响应为基础的软目标和基于特征的节点嵌入,最小化 KL 散度,有效消除已删除图元素的影响同时保留有关保留图元素的知识。实验证明,在各种真实世界图数据集上,D2DGN 在边和节点取消学习任务中的 AUC 性能比现有方法提高了高达 43.1%(AUC)。
Sep, 2023
机器遗忘是一种新兴技术,主要研究如何使训练模型忘记一些训练数据。本文提出了一种名为 “目标遗忘” 的更有效和高效的遗忘方案,通过构建一个关键参数的关系图数据结构和基于修剪的遗忘方法,实现从模型中删除部分目标的信息。实验结果验证了该方法的有效性。
Jun, 2024
本文提出了一种专门针对图数据的新型机器取消学习框架 GraphEraser,包括两种新颖的图分区算法和一种基于学习的聚合方法。研究表明,与 SISA 相比,GraphEraser 在取消学习效率和模型效用方面都具有较大优势。
Mar, 2021