Jan, 2022

使用知识蒸馏进行联邦遗忘

PDF
TL;DR在联邦学习中，提出了一种新颖的联邦遗忘方法，通过从模型中减去历史累积更新来消除客户端的贡献，并利用知识蒸馏方法恢复模型的性能，而不使用来自客户端的任何数据。该方法不依赖于客户端的参与，不对神经网络的类型有任何限制，并引入后门攻击来评估遗忘效果。实验结果表明了本文方法的有效性和效率。
federated learningdata privacyright to be forgottenfederated unlearningbackdoor attacks
发现论文，激发创造
  • 联邦取消学习：方法、设计指导和评估指标综述

    本研究调查了联邦学习中取消学习的背景概念、经验证据和实际指南，提出了一种新的分类法对最先进的取消学习算法进行详细分析，并确定了该领域最有前景的研究方向和尚未解决的技术挑战。

    Jan, 2024

  • 联邦不学习：如何高效删除 FL 中的客户端？

    在保护用户隐私的前提下，提出了一种联邦学习模型中去除任意客户数据的方法，即通过执反向梯度下降法使局部经验损失最大化，以解决被遗忘权 (DP) 的问题，并在 MNIST 数据集上进行了实验验证。

    Jul, 2022

  • 分布式知识图谱通过扩散模型实现遗忘

    本文提出了 FedDM, 一种面向联邦知识图的模型遗忘的新框架，通过扩散模型生成噪声数据以合理地减轻特定知识对 FL 模型的影响，同时保持其对剩余数据的整体性能，并通过对基准数据集进行实验评估证明 FedDM 在知识遗忘方面具有良好的效果。

    Mar, 2024

  • SoK：联邦反学习的挑战与机遇

    这篇论文从事一项关于联邦消除学习（federated unlearning）的研究，通过对已发表的联邦学习消除（FL unlearning）相关论文的分类和分析，探讨了联邦学习消除领域的研究趋势和挑战，比较了现有联邦学习消除方法的影响消除和性能恢复能力，以及他们的假设和局限性。该研究为未来联邦学习消除的研究提供了洞见和建议。

    Mar, 2024

  • 联邦蒸馏：调查

    该论文就联邦蒸馏（FD）提供了全面的概述，介绍了其最新进展，探讨了 FD 框架的基本原理，阐述了应对各种挑战的 FD 方法，并提供了 FD 在不同场景中的多样化应用。

    Apr, 2024

  • 驱动群体智能的联邦学习大语言模型：调查报告

    调查了联邦学习大型语言模型的最新进展，重点关注了机器遗忘这一关键方面，以符合数据隐私和被遗忘权等隐私法规；通过探索各种策略，如扰动技术、模型分解和增量学习等，而无需从头重新训练，实现从联邦学习的大型语言模型中安全有效地删除个别数据贡献，强调它们对于维持模型性能和数据隐私的意义；此外，通过案例研究和实验结果，评估这些方法在实际场景中的有效性和效率；调查揭示了在人工智能伦理和分布式机器学习技术交叉领域中发展更强大和可扩展的联邦遗忘方法的日益关注，也为未来研究提供了重要领域。

    Jun, 2024

  • 可信数据删除的可遗忘联邦线性学习

    本研究提出了 Forgettable Federated Linear Learning 框架，旨在保障 Federated learning 中客户端隐私，实现训练模型时对客户端数据的保密性，并通过引入数据移除策略来解决 Federated learning 中的计算挑战，实验结果表明，与基线策略相比，该方法在平衡模型准确性和信息删除方面具有优势。

    Jun, 2023

  • 主动遗忘的联邦取消学习

    基于增量学习、主动遗忘和弹性权重约束的新型联邦遗忘框架，有效解决联邦学习中的遗忘问题。

    Jul, 2023

  • 异构联邦知识图谱嵌入的学习和遗忘

    本文提出了一种新的 FL 框架 ——FedLU，用于异构的 KG 嵌入学习和遗忘，利用相互的知识蒸馏来处理数据异质性造成的局部优化与全局收敛之间的漂移，并提出一种基于认知神经科学的遗忘方法，结合了逆行干扰和被动衰减，通过重用知识蒸馏来从本地客户端中抹除特定的知识并传播到全局模型。实验结果表明 FedLU 在链接预测和知识遗忘方面都取得了优秀的结果。

    Feb, 2023

  • 联邦学习中的被遗忘权利：一种高效的快速重训练实现

    本研究旨在研究联邦学习（FL）系统中的机器非重学习问题，提出了一种快速数据淘汰方法以保护数据隐私，并在四项真实数据集上进行了测试和分析。

    Mar, 2022