May, 2023

使用 BEHRT 进行医学概念嵌入的联合学习

PDF
TL;DR本文提出了一种基于联邦学习的医学概念嵌入学习方法，通过使用 MIMIC-IV 数据集比较中心化学习和联邦学习的表现，结果发现联邦学习可以达到与中心化学习相近的性能，并且在平均精度上优于本地模型。同时，文章还证明了预训练掩码语言模型可以提高下一次就诊预测任务的性能。
electronic health recordsfederated learningmedical concepts embeddingmasked language modelingmimic-iv dataset
发现论文，激发创造
  • 面向医学转录分析的联合多语言模型

    该论文介绍了一个针对医学实体标注等下游任务的大规模多语言模型的联邦学习系统，它能够跨越高度异质化的数据提供者进行训练，并通过本地训练步骤进一步提高全局模型的性能。

    Nov, 2022

  • 使用递归与注意力模型以及 NVFlare 进行多地点临床联合学习

    医学自然语言处理的一种实用方法，采用联合学习、自然语言处理模型和 NVIDIA 的 NVFlare 框架，结合 BERT 预训练模型来增强病人护理和临床决策制定的准确性和性能，同时解决数据隐私和合规性问题。

    Jun, 2023

  • FedER：通过经验回放和隐私保护数据合成的联邦学习

    本文提出一种基于体验回放和生成对抗网络思想的联合和分散学习策略，名为 FedER，它可以在保持隐私的同时整合本地节点的特征，提供能够横跨多个数据集的模型，以实现对结核和黑色素瘤分类的准确诊断

    Jun, 2022

  • 生物医学自然语言处理的联邦学习系统评估

    通过对 $2$ 个生物医学自然语言处理任务使用 $6$ 个语言模型评估联邦学习在医学领域的应用，结果显示：1）联邦学习模型在总体表现上优于单个客户数据训练的语言模型，有时甚至与整合数据训练的模型持平；2）当数据总量固定时，使用更多客户训练的语言模型表现较差，但基于预训练模型的转换器表现更加强劲；3）联邦学习训练的语言模型在客户数据独立同分布的情况下与整合数据训练的模型表现接近，但在非独立同分布数据下有明显差距。

    Jul, 2023

  • 医疗信息学的联邦学习

    通过联邦学习机制，能够保持本地机构中的敏感数据，同时在中央服务器上培训共享全球模型，从而改进卫生保健数据的隐私保护和数据分析，以解决医疗卫生数据碎片化和保密性问题。

    Nov, 2019

  • EHRFL：异构电子健康记录的联邦学习框架及参与客户精确定向选择

    本研究提供了针对电子健康记录（EHRs）的联邦学习中两个实际但常被忽视的场景的解决方案：首先，我们介绍了 EHRFL，这是一个框架，通过 EHR 的文本线性化，促进了具有不同医疗编码系统和数据库模式的医疗机构之间的联邦学习；其次，我们聚焦于单个医疗机构发起联邦学习以构建适合自身的模型的场景，在选择参与机构时，我们提出了一种新颖的基于精度的方法，利用数据潜变量来确定适合机构的参与者。我们的实证结果表明，EHRFL 能够有效实现具有不同 EHR 系统的医院之间的联邦学习。此外，我们的结果证明了我们的基于精度的方法在选择减少数量的参与机构时不会损害模型性能，从而降低了构建机构特定模型时的运营成本。我们相信这项工作为 EHR 上的联邦学习的更广泛应用奠定了基础。

    Apr, 2024

  • 利用分布式电子医疗记录进行联邦机器学习预测死亡率和住院时间的患者聚类提高效率

    介绍了一种基于社群的联邦机器学习算法，将分布式数据聚类成具有相似诊断和地理位置的有临床意义的社群，使每个社群可以学习一个模型。该算法在现场非 IID ICU EMR 上表现优于传统方法，同时可以保护隐私。

    Mar, 2019

  • 模拟跨机构精神科设置中的暴力事件预测的联邦学习

    本文研究应用联邦学习和自然语言处理于跨机构精神科领域进行暴力危险评估，并比较四个模型的性能，结果显示联邦学习模型表现最佳，可能为基于临床笔记的联邦学习应用开启了新的可能性。

    May, 2022

  • 医疗领域联邦学习的实用性探讨

    本文提出了以三个真实的数据集为基础的 FL 算法实验基准及考虑性能和成本的经济模型，同时还引入了一个结合了 FedProx 和 FedBN 的 FL 方法 FedPxN，其在性能方面优于其他 FL 算法，并只消耗比最省电的方法略高一些的功耗。

    Jul, 2022

  • 联邦学习与数字化健康的未来

    该论文考虑了隐私问题对医疗数据的影响，通过联邦学习提供了数字健康的潜在解决方案，并强调需要解决的挑战和问题。

    Mar, 2020