Mar, 2023

FedRight：一种针对联邦学习的有效模型版权保护方案

PDF
TL;DR提出了基于模型指纹的 FedRight 方法，用于解决分散式机器学习框架中版权保护问题。该方法通过生成对抗性示例提取模型特征，检测器可通过训练神经网络来验证模型的版权。大量测试表明，FedRight 在模型的保密性、稳定性、适用性方面表现优异。
federated learningcopyright protectionmodel fingerprintsprivacymachine learning
发现论文，激发创造
  • 联邦学习与水印技术：知识产权保护的全面概述

    在联邦学习领域中，提供了对最近联邦学习水印技术的概述，揭示了在这一领域中出现的新挑战和机遇。

    Aug, 2023

  • FedTracker: 为联邦学习模型提供所有权验证和可追溯性

    本研究提出了 FedTracker—— 第一个 FL 模型保护框架，其采用全局水印和本地指纹分别验证全局模型的所有权以及追溯模型背后的罪犯。结果表明，FedTracker 在验证、追溯、保真度和鲁棒性方面是有效的。

    Nov, 2022

  • 联邦学习的进展：模型、方法和隐私

    本文详细阐述了联邦学习的体系结构、应用问题、算法设计原则和安全问题，提出了一种更加通用的算法设计框架、攻击场景和防御方法，致力于将联邦学习与真实世界应用相集成并实现高性能、隐私保护和安全性。

    Feb, 2023

  • FedTruth: 拜占庭容错和后门抵制的联邦学习框架

    FedTruth 是一种针对 FL 中的模型污染问题的鲁棒防御方法，通过动态聚合权重估计全局模型更新，考虑了所有良性客户的贡献，并在实证研究中证明了其对拜占庭攻击和后门攻击的毒化更新的影响有很好的缓解效果。

    Nov, 2023

  • 联邦学习：最新进展与应用的前沿综述

    在机器学习系统中，通过联邦学习作为一个安全的分布式机器学习方法，有效提升隐私安全；它利用区块链技术将机器学习模型转移到边缘服务器，通过这种机制保证了集中式和分散式系统的高效处理和数据存储需求，强调可伸缩性、隐私考虑和成本有效的通信。本文对最近的联邦学习应用进行了分析和比较，以评估其效率、准确性和隐私保护。然而，鉴于联邦学习复杂且不断演化的特点，明确需要进一步研究来解决知识间的差距并有效应对该领域面临的挑战。在本文中，我们将最近的文献分为以下几个类别：隐私保护、资源分配、案例研究分析和应用，此外，在每个章节的末尾，我们还对参考文献中提出的开放领域和未来方向进行了总结，为研究人员提供了领域演进的深入视角。

    Oct, 2023

  • 公平差分隐私联邦学习框架

    通过应用裁剪技巧与高斯机制来解决不包含验证数据的公平差分私有联邦学习框架的可能出现的偏见更新问题，同时审查了隐私和公平性在联邦学习中的相关工作，并强调了 MITIGATE 偏见和确保隐私的最新进展和方法。

    May, 2023

  • Fed-Credit：具有可信管理的稳健联邦学习

    基于可信度管理方案的鲁棒联邦学习方法，可以保护隐私并对抗恶意攻击。

    May, 2024

  • 通过本地适配挽救联合学习

    针对联邦学习中参与者局部利益与数据准确度不匹配的问题，本文提出并比较了三种本地适应技术，并指出差分隐私和鲁棒聚合恶化了联邦模型的准确性。这三种技术分别为：微调、多任务学习和知识蒸馏。我们的实验结果表明，所有参与者都从本地适应中受益，并且本地模型表现不佳的参与者通过传统联邦方式得到了大幅提升。

    Feb, 2020

  • 联邦信任：可信联邦学习的解决方案

    该研究分析了联邦学习中信任度评估的现有要求，提出了六个支柱（隐私、强壮性、公正性、可解释性、问责制和联邦）和 30 多个计算 FL 模型信任度水平的度量标准，并设计了一个算法 FederatedTrust，可以计算 FL 模型的信任度得分。通过在不同联邦配置下使用 FEMNIST 数据集进行的四个实验，展示了计算 FL 模型信任度的 FederatedTrust 的实用性。

    Feb, 2023

  • 联邦学习的安全与隐私问题

    分布式学习中的联邦学习存在安全和隐私挑战，本研究针对各类机器学习模型，包括大型语言模型，提出了安全和隐私挑战的综合分类，重点关注聚合器和参与者的攻击，包括投毒攻击、后门攻击、成员推断攻击、生成对抗网络攻击和差分隐私攻击，同时提出了未来研究的新方向，旨在强化联邦学习系统以应对新兴安全风险并保护分布式学习环境中的敏感数据隐私。

    Jul, 2023