Jun, 2023

可信数据删除的可遗忘联邦线性学习

PDF
TL;DR本研究提出了 Forgettable Federated Linear Learning 框架，旨在保障 Federated learning 中客户端隐私，实现训练模型时对客户端数据的保密性，并通过引入数据移除策略来解决 Federated learning 中的计算挑战，实验结果表明，与基线策略相比，该方法在平衡模型准确性和信息删除方面具有优势。
federated learningforgettable federated linear learningmodel trainingprivacydata removal
发现论文，激发创造
  • 使用知识蒸馏进行联邦遗忘

    在联邦学习中，提出了一种新颖的联邦遗忘方法，通过从模型中减去历史累积更新来消除客户端的贡献，并利用知识蒸馏方法恢复模型的性能，而不使用来自客户端的任何数据。该方法不依赖于客户端的参与，不对神经网络的类型有任何限制，并引入后门攻击来评估遗忘效果。实验结果表明了本文方法的有效性和效率。

    Jan, 2022

  • 联邦取消学习：方法、设计指导和评估指标综述

    本研究调查了联邦学习中取消学习的背景概念、经验证据和实际指南，提出了一种新的分类法对最先进的取消学习算法进行详细分析，并确定了该领域最有前景的研究方向和尚未解决的技术挑战。

    Jan, 2024

  • 驱动群体智能的联邦学习大语言模型：调查报告

    调查了联邦学习大型语言模型的最新进展，重点关注了机器遗忘这一关键方面，以符合数据隐私和被遗忘权等隐私法规；通过探索各种策略，如扰动技术、模型分解和增量学习等，而无需从头重新训练，实现从联邦学习的大型语言模型中安全有效地删除个别数据贡献，强调它们对于维持模型性能和数据隐私的意义；此外，通过案例研究和实验结果，评估这些方法在实际场景中的有效性和效率；调查揭示了在人工智能伦理和分布式机器学习技术交叉领域中发展更强大和可扩展的联邦遗忘方法的日益关注，也为未来研究提供了重要领域。

    Jun, 2024

  • 本地训练中减轻遗忘的联邦学习加速

    本文提出了 FedReg 算法来解决分布式学习中的灾难性遗忘问题，通过在本地训练阶段使用生成的伪数据作为正则化器，以保护用户隐私并提高算法的收敛速度。

    Mar, 2022

  • 联邦不学习：如何高效删除 FL 中的客户端？

    在保护用户隐私的前提下，提出了一种联邦学习模型中去除任意客户数据的方法，即通过执反向梯度下降法使局部经验损失最大化，以解决被遗忘权 (DP) 的问题，并在 MNIST 数据集上进行了实验验证。

    Jul, 2022

  • 联邦学习中的被遗忘权利：一种高效的快速重训练实现

    本研究旨在研究联邦学习（FL）系统中的机器非重学习问题，提出了一种快速数据淘汰方法以保护数据隐私，并在四项真实数据集上进行了测试和分析。

    Mar, 2022

  • 快速 FedUL：具备可证明偏差韧性的无需训练的联邦去学习

    为了保护训练数据的隐私权，研究提出了一种适用于联邦学习的定制反学习方法，Fast-FedUL，它能够完全消除重新训练的需要，并通过对目标客户在每一轮中对全局模型的影响进行细致分析，开发出一种算法系统地从训练模型中移除目标客户的影响，而保留非目标客户的知识。该方法能够有效地消除几乎所有与目标客户相关的痕迹，同时在主要任务上达到高达 98% 的准确率，并且速度比重新训练快 1000 倍。

    May, 2024

  • 降低信息泄漏和计算的联邦学习

    Upcycled-FL 是一种新颖的联邦学习框架，应用在每个偶数迭代中的一阶逼近，以在保持隐私的同时提高隐私 - 准确性平衡，并通过引入扰动机制来保护隐私。实验表明，Upcycled-FL 在异构数据上持续优于现有方法，并且平均减少 48％的训练时间。

    Oct, 2023

  • 远程消除后门：去除联邦学习中的痕迹

    该文提出了一种基于机器遗忘的方法，使得攻击者可以有效地去除联邦学习中注入的后门，该方法在保证集中模型性能的同时，防止不相关信息的过度遗忘，并通过图像分类方案的全面评估证明了其在多种攻击情境下有效去除后门。

    Apr, 2023

  • 公平差分隐私联邦学习框架

    通过应用裁剪技巧与高斯机制来解决不包含验证数据的公平差分私有联邦学习框架的可能出现的偏见更新问题，同时审查了隐私和公平性在联邦学习中的相关工作，并强调了 MITIGATE 偏见和确保隐私的最新进展和方法。

    May, 2023