本文发现对抗样本可以操纵深度学习系统在三个临床领域，建议医疗机构在部署深度学习系统时注意当前的漏洞，同时促进机器学习社区进一步研究医疗学习系统的领域特征。

Apr, 2018

医学深度学习系统可以被巧妙地构造对抗性例子攻击破坏，难以在实际临床设置中应用，本文发现医学深度学习模型对于对抗攻击比对自然图像模型更脆弱，但医学对抗攻击可以通过简单的检测器容易检测出来，这些发现可作为更可解释和安全的医学深度学习系统设计的依据。

Jul, 2019

使用电子健康记录进行循证医学和准确预测，通过 Fast Healthcare Interoperability Resources (FHIR) 格式表示病人的原始病历记录，并使用深度学习方法进行多中心的多个医疗事件预测，包括住院死亡率、未经计划的 30 天再入院率、医院停留时间延长、所有患者的最终出院诊断等。

Jan, 2018

使用机器学习技术，采用抗干扰训练方法，利用基础的临床数据，开发了两个能较好地预测患者 COVID-19 状态的连续神经网络模型，并提高了模型隐私保护能力，可有效减少医疗信息泄漏。

Jan, 2022

本文研究了深度神经网络在医疗应用中存在的隐私问题，发现攻击者可以利用属性推理攻击和模型反演攻击重建真实医学图像和临床记录，提出使用标签扰动和模型扰动等防御机制有效保护患者隐私。实验结果证明，我们的防御策略可以有效地减少医疗深度学习的隐私泄露风险。

Oct, 2020

本研究提出了一种基于深度半监督学习框架的 ehrGAN 模型来增强由限制的 Electronic Health Records 数据引发的风险预测绩效，并在两个真实的卫生健康数据集上的实验证明该模型可以产生逼真的数据样本，并且在生成数据的分类任务中，该模型较其他基线方法取得了更显著的改进。

Sep, 2017

对基于电子健康记录数据的深度学习预测模型的最新进展进行系统综述，并讨论了预测建模在医疗保健中的挑战、基准和工具，以及未来研究的方向。

Feb, 2024

人工智能在放射学领域的广泛应用，揭示了深度学习模型对弱势患者群体的临床偏见的风险。本研究表明，有针对性的标签污染攻击可以在深度学习模型中引入有害的低诊断偏见，在不影响整体模型性能的情况下降低对弱势群体的诊断准确性。此外，我们的研究结果表明，性别、年龄以及它们的交叉子群体在模型训练数据中的表示对于无法检测到的对抗性偏见攻击的群体脆弱性有直接相关性。

Feb, 2024

大型语言模型（LLMs）在医疗应用中的整合为医学诊断、治疗建议和患者护理方面的进步提供了有希望的前景，然而，LLMs 对敌对攻击的易受攻击性构成了重大威胁，可能导致敏感医疗环境中的不良结果。本研究调查了 LLMs 在三个医学任务中面临的两种类型的敌对攻击的易受攻击性。利用真实的患者数据，我们证明了开源和专有的 LLMs 在多个任务中容易受到操纵。这项研究进一步揭示了针对特定领域任务的模型微调需要更多的敌对数据以实施有效的攻击，特别是对于更强大的模型而言。我们发现，虽然整合了敌对数据不会明显降低医学基准测试中的整体模型性能，但它确实会导致微调模型权重的明显变化，这表明检测和对抗模型攻击的潜在途径。这项研究强调了在医疗应用中确保 LLMs 安全有效部署的迫切需求，需要健全的安全措施和防御机制来保护 LLMs。

Jun, 2024

深度学习模型在多个领域取得了巨大的成功，但研究发现这些模型存在各种攻击，会危及模型的安全性和数据隐私，特别是模型抽取攻击、模型反转攻击和对抗攻击。这篇论文研究了这些攻击以及它们对深度学习模型的影响。

Nov, 2023