Fed-Safe: 在医疗保健中保护联邦学习免受对抗攻击

Oct, 2023

Fed-Safe: 在医疗保健中保护联邦学习免受对抗攻击

Fed-Safe: Securing Federated Learning in Healthcare Against Adversarial Attacks

Erfan Darzi, Nanna M. Sijtsema, P.M.A van Ooijen

TL;DR该研究探讨了医学图像分析中联邦学习应用的安全方面。通过引入联邦环境中的分布式噪音，可以开发出具备对抗攻击鲁棒性并符合联邦隐私标准的模型。研究结果表明，引入分布式噪音可达到与传统对抗训练相当的安全水平，同时需要更少的样本进行重新训练。

Abstract

This paper explores the security aspects of federated learning applications in medical image analysis. Current robustness-oriented methods like adversarial training, secure aggregation, and homomorphic encryption

federated learning medical image analysis privacy compromises adversarial manipulations distributed noise

发现论文，激发创造

探索联邦学习中的对抗性攻击与医学成像

评估联邦学习网络在医学图像分析中对对抗性攻击的脆弱性，结果显示领域特定配置可以显著增加攻击者的成功率，强调了对有效的防御机制的迫切需求，并建议对联邦医学图像分析系统的当前安全协议进行重要重新评估。

Oct, 2023

医疗联邦学习的隐藏对抗性漏洞

本研究探讨了联邦医学影像分析系统对对抗攻击的易受攻击性。我们的分析揭示了一种新的利用途径：通过使用先前全局模型更新的梯度信息，攻击者可以提高他们攻击的效率和可迁移性。具体而言，我们证明了单步攻击（例如 FGSM）在适当初始化的情况下，可以超越迭代对手的效率，同时减少计算需求。我们的发现强调了在联邦医疗保健环境中重新审视人工智能安全问题的必要性。

Oct, 2023

数字医疗领域联邦学习的安全与隐私问题及解决方案

联邦学习在医疗保健行业有巨大潜力，可以解决数据收集和隐私保护的问题，然而，攻击和防御方面的挑战仍需进一步研究以实现更强大的联邦学习。

Jan, 2024

安全聚合并不是你所需要的一切：使用噪声容忍度在联邦学习中缓解隐私攻击

本文研究了在联合学习中，如果服务端是恶意的但试图获得私人数据，会面临什么样的安全聚合漏洞，并提供了一种进一步防御此类恶意服务器的方法，并展示了防御针对已知攻击的有效性。

Nov, 2022

透过对抗性的视角分析联邦学习

本篇论文探讨了在联邦学习中的模型污染攻击，通过提出一种交替极小化策略和使用参数估计方法使恶意代理更容易成功攻击，同时提出利用可解释性技术生成模型决策的视觉解释，为联邦学习中的漏洞和防御策略提供了借鉴。

Nov, 2018

理解联邦学习中的对抗迁移

我们研究了一个新颖而实用的情境中的弹性和安全问题：一组恶意客户端通过伪装身份和表现为良性客户端，在训练期间对模型造成影响，并且在训练之后揭示他们的对手位置以进行可转移的对抗攻击，这些数据通常是 FL 系统训练时使用的数据子集。我们的目标是全面了解 FL 系统在这种实际情境中面临的挑战，包括各种配置。我们注意到这种攻击是可能的，但是与其在干净图像上的准确度相当时，联邦模型比其集中式对应物更为稳健。通过我们的研究，我们假设这种稳健性来自两个因素：分布式数据上的分散训练和平均操作。我们从实证实验和理论分析的角度提供证据。我们的工作对于理解联邦学习系统的稳健性具有意义，并对联邦学习应用提出了实际问题。

Oct, 2023

分散联邦学习：安全与隐私的综述

去中心化联邦学习中的威胁变体、对手、潜在的防御机制、可信度和可验证性的研究。

Jan, 2024

攻击自适应聚合的鲁棒联邦学习

针对联邦学习存在的毒化模型和后门攻击等安全威胁，我们提出了一种基于注意力机制的神经网络攻击自适应的聚合策略。我们的方法可以在数据驱动的方式下，有效应对各种攻击，特别是对图像和文本数据集中的模型毒化和后门攻击的防御具有竞争力的表现。

Feb, 2021

组织病理图像分类与脆弱性分析的联邦学习

利用隐私保护联邦学习技术，发现健康诊断的机器学习模型会受到数据投毒的攻击，导致全局模型准确度下降。

Oct, 2023

联邦学习中的隐私与鲁棒性：攻击与防御

在这篇综述性论文中，作者重点介绍基于联邦学习的系统在应对恶意攻击、保障隐私方面所面临的问题，特别关注如何提高系统鲁棒性和隐私保护措施。

Dec, 2020