Oct, 2023

医疗联邦学习的隐藏对抗性漏洞

PDF
TL;DR本研究探讨了联邦医学影像分析系统对对抗攻击的易受攻击性。我们的分析揭示了一种新的利用途径：通过使用先前全局模型更新的梯度信息，攻击者可以提高他们攻击的效率和可迁移性。具体而言，我们证明了单步攻击（例如 FGSM）在适当初始化的情况下，可以超越迭代对手的效率，同时减少计算需求。我们的发现强调了在联邦医疗保健环境中重新审视人工智能安全问题的必要性。
federated medical image analysis systemsadversarial attacksgradient informationefficiencyai security
发现论文，激发创造
  • 探索联邦学习中的对抗性攻击与医学成像

    评估联邦学习网络在医学图像分析中对对抗性攻击的脆弱性，结果显示领域特定配置可以显著增加攻击者的成功率，强调了对有效的防御机制的迫切需求，并建议对联邦医学图像分析系统的当前安全协议进行重要重新评估。

    Oct, 2023

  • Fed-Safe: 在医疗保健中保护联邦学习免受对抗攻击

    该研究探讨了医学图像分析中联邦学习应用的安全方面。通过引入联邦环境中的分布式噪音，可以开发出具备对抗攻击鲁棒性并符合联邦隐私标准的模型。研究结果表明，引入分布式噪音可达到与传统对抗训练相当的安全水平，同时需要更少的样本进行重新训练。

    Oct, 2023

  • 组织病理图像分类与脆弱性分析的联邦学习

    利用隐私保护联邦学习技术，发现健康诊断的机器学习模型会受到数据投毒的攻击，导致全局模型准确度下降。

    Oct, 2023

  • 透过对抗性的视角分析联邦学习

    本篇论文探讨了在联邦学习中的模型污染攻击，通过提出一种交替极小化策略和使用参数估计方法使恶意代理更容易成功攻击，同时提出利用可解释性技术生成模型决策的视觉解释，为联邦学习中的漏洞和防御策略提供了借鉴。

    Nov, 2018

  • 数字医疗领域联邦学习的安全与隐私问题及解决方案

    联邦学习在医疗保健行业有巨大潜力，可以解决数据收集和隐私保护的问题，然而，攻击和防御方面的挑战仍需进一步研究以实现更强大的联邦学习。

    Jan, 2024

  • 理解联邦学习中的对抗迁移

    我们研究了一个新颖而实用的情境中的弹性和安全问题：一组恶意客户端通过伪装身份和表现为良性客户端，在训练期间对模型造成影响，并且在训练之后揭示他们的对手位置以进行可转移的对抗攻击，这些数据通常是 FL 系统训练时使用的数据子集。我们的目标是全面了解 FL 系统在这种实际情境中面临的挑战，包括各种配置。我们注意到这种攻击是可能的，但是与其在干净图像上的准确度相当时，联邦模型比其集中式对应物更为稳健。通过我们的研究，我们假设这种稳健性来自两个因素：分布式数据上的分散训练和平均操作。我们从实证实验和理论分析的角度提供证据。我们的工作对于理解联邦学习系统的稳健性具有意义，并对联邦学习应用提出了实际问题。

    Oct, 2023

  • 基于联邦学习的基础模型集成在对抗威胁下的漏洞

    在现有的联邦学习（FL）框架存在数据不足和不平衡的情况下，基础模型（FMs）的出现为解决 FL 框架的局限性提供了潜在的解决方案，然而，由于 FMs 的固有安全问题，将 FMs 集成到 FL 中可能引入新的风险，为了解决这一问题，我们首次研究了整合 FM 的 FL（FM-FL）在对抗性威胁下的易损性，通过对图像和文本领域中着名模型和基准数据集的广泛实验，我们揭示了 FM-FL 对这种新威胁在各种 FL 配置下的高易感性，此外，我们发现现有的 FL 防御策略在防御这种新攻击方法方面提供了有限的保护，这项研究突出了在 FMs 时代的 FL 中增强安全措施的重要性。

    Jan, 2024

  • 医学影像联合学习中的隐私风险分析与缓解

    提出了综合的医疗数据隐私风险分析和联邦学习（MedPFL）的减轻框架，分析了在联邦学习中保护私人医疗数据的隐私风险，并开发了有效的减轻策略。展示了使用联邦学习处理医学图像的实质性隐私风险，并指出在联邦学习中加入随机噪声的防御方法可能不总是有效保护医学图像免受隐私攻击，这给医疗数据的隐私保护带来了独特和迫切的挑战。

    Nov, 2023

  • 联邦生成对抗网络医学图像合成中的后门攻击和防御

    本文研究了联邦生成对抗网络（FedGANs）中后门攻击的问题，提出了一种高效的防御措施 ——FedDetect。在两个不同模态的医学数据集上进行了实验，表明后门攻击会导致低保真度合成图像，但使用 FedDetect 能够抵御此类攻击，以提高分類性能。

    Oct, 2022

  • 联邦学习与迁移学习：对敌手和防御机制的综述

    本文在安全的角度对联邦学习和迁移学习进行了全面的调查，旨在发现可能会危害使用联邦和迁移学习系统的隐私和性能的潜在漏洞和防御机制。

    Jul, 2022