Cronus: 基于黑盒知识转移的鲁棒性和异构性协作学习

Dec, 2019

Cronus: 基于黑盒知识转移的鲁棒性和异构性协作学习

Cronus: Robust and Heterogeneous Collaborative Learning with Black-Box Knowledge Transfer

Hongyan Chang, Virat Shejwalkar, Reza Shokri, Amir Houmansadr

TL;DR通过将局部模型的参数进行强大的知识传递来控制信息交换和维护隐私，Cronus 是唯一一种对抗恶意攻击具有强健保证的机器学习框架。

Abstract

Collaborative (federated) learning enables multiple parties to train a model without sharing their private data, but through repeated sharing of the parameters of their local models. Despite its advantages, this approach has many known privacy and security weaknesses and performance ov

collaborative learning federated learning privacy and security poisoning attacks cronus

发现论文，激发创造

通过联邦协同训练保护敏感数据

在隐私领域，通过联邦协同训练和共享标签实现保护敏感数据的查探，提高模型质量并保护隐私免受常见的成员推理攻击。

Oct, 2023

Cerberus: 探索基于联邦学习的安全事件预测

本研究旨在探讨使用联邦学习来预测未来的安全事件，我们引入了 Cerberus 系统，使参与组织可以协同训练递归神经网络模型，评估其效用、鲁棒性和隐私，并讨论了使用联邦学习在预测安全性方面所面临的挑战和机会。

Sep, 2022

面向因果联邦学习的增强鲁棒性和隐私保护

本文提出了一种在联邦学习中学习所有参与客户机中共同不变（因果）特征的方法，并经验性地分析了它如何增强模型的精度和隐私性。

Apr, 2021

具有遗忘分布式差分隐私的抗串谋联邦学习

本研究提出了一种新的基于分布式差分隐私的隐私保护联合学习方法，其可以有效避免联合攻击，以及 “Sybil” 攻击，并给出了相应的安全性证明。在模拟的 5000 个分布式网络客户端上的实验结果表明，该协议执行速度快，学习准确率高，且具有良好的隐私保护性能。

Feb, 2022

如何后门联邦学习

本文论述了联邦学习的安全问题，指出任何参与者都可以在联邦学习中引入隐藏的后门功能，进而设计了基于替换模型和泛化约束的攻击方式。这种攻击方法可以在短时间内使全局模型对后门任务达到 100％的准确率，并可通过对抗损失函数规避检测方法。

Jul, 2018

无破坏：隐私保护和拜占庭强健的联邦学习

本文旨在构建一个隐私保护、拜占庭强健的联邦学习方案，提供一个无破坏者环境，以保护数据隐私并排除恶意攻击者。我们通过构建模型过滤器、采用零知识证明提供进一步的隐私保护、采用秘密共享提供可验证的安全聚合，证明了 NoV 能有效应对包括 PGD 在内的数据和模型污染攻击，并超越其他相关方案。

Jun, 2024

隐私保护联邦学习的混合方法

本文提出了一种结合差分隐私和安全多方计算的联邦学习方法，在保证训练和最终模型的隐私性的同时，也能够保持较高的预测准确率，这个系统不仅能应用于多种机器学习模型的训练，而且在实验上验证了它的优越性。

Dec, 2018

通过关键参数分析实现抗攻击的联邦学习

本文提出了一种新的防御策略 FedCPA（具有关键参数分析的联邦学习），基于观察到良性本地模型具有相似的前 k 个和后 k 个关键参数集，而恶意本地模型则没有。在多个数据集上进行的不同攻击场景实验表明，我们的模型在防御中毒攻击方面优于现有的防御策略。

Aug, 2023

GAN 下的深度模型：来自协作深度学习的信息泄露

本文研究了协作深度学习的隐私问题以及差分隐私技术的应用，结果发现目前的方法都无法保护参与者的训练数据隐私，因为我们提出了一种基于生成对抗网络的攻击方法。

Feb, 2017

联邦学习中背门攻击对抗鲁棒性软化

在数据驱动的背景下，保护用户隐私与释放数据潜力之间的微妙平衡成为一个重要关注点。联邦学习作为一种能够在不共享数据的情况下进行协同模型训练的隐私中心解决方案逐渐崭露头角。本研究通过对恶意攻击与后门攻击在联邦学习中的相互作用进行调查，引入了 Adversarial Robustness Unhardening（ARU）。ARU 是一种被某一部分攻击者使用的方法，通过在分散的训练过程中故意破坏模型的健壮性，使其容易受到更广泛的逃避攻击。我们进行了大量的实证实验，评估了 ARU 对抗性训练和现有的抵御恶意攻击和后门攻击的聚合防御策略的影响。我们的研究结果为提升 ARU 以应对当前的防御措施提供了策略，并突显了现有防御策略的局限性，以增强对抗 ARU 的防御能力。

Oct, 2023