本文回顾了 80 多个非成像电子医疗记录基础模型并创建了一个分类法以区分它们的结构、训练数据和潜在用例。作者们发现，大多数模型是在小型、局限性临床数据集（例如 MIMIC-III）或广泛的公共生物医学语料库（例如 PubMed）上进行训练的，并且评估任务不能提供对其对医疗系统有用性的有意义见解。基于这些发现，作者提出了一个更加贴近医疗保健重要指标的评估框架，用于衡量临床基础模型的好处。

Mar, 2023

基于基础模型的数据导向人工智能在改进医疗工作流程方面具有巨大潜力，涉及基础模型、计算医疗、数据记录、临床数据分析等关键领域。

Jan, 2024

通过发布一份新的、包含 6712 位患者电子病历数据的纵向数据集 EHRSHOT、以及一个 141M 参数的、预训练于 257 万位患者结构化病历数据的临床基础模型权重，在为医疗机器学习提供共享资产方面，该研究作出了贡献。

Jul, 2023

基于自我监督方法使用大规模数据集训练的基础模型（FMs）被广泛应用于各个领域，包括医疗保健领域，特别在自然语言处理、医学图像分析、临床大型语言模型和病理组学数据等方面。该综述论文全面概述了 FMs 在医疗保健领域的历史、学习策略、旗舰模型、应用和挑战，并提供了详细的医疗应用分类，同时讨论了 FMs 所面临的挑战和未来研究方向。

Jun, 2024

通过引入 EHRMamba 和多任务提示微调（MTF）方法，此研究提出了一种基于 Mamba 架构的稳健基础模型，该模型具有较低的计算成本和较长的上下文长度，并且能够同时学习多个临床任务，从而在电子健康记录领域取得了重大突破。

May, 2024

我们提出了一种名为 AutoFM 的神经架构搜索（NAS）框架，用于自动搜索对多样输入模态和融合策略进行编码的最佳模型架构，并在真实世界的多模式 EHR 数据和预测任务上进行了彻底实验，结果表明我们的框架不仅在现有最先进的方法上实现了显著的性能改进，还有效地发现了有意义的网络架构。

Jan, 2024

基于现有数据进行预训练的基础模型在促进医疗卫生事业中发挥着积极作用，它打破了有限人工智能模型与多样化医疗实践之间的矛盾，提供了更广泛的医疗场景，从而改善智能医疗服务。本文对基础模型的挑战、机遇和未来发展方向进行了全面深入的调研和探讨，以期加深人们对基础模型的认识和为未来发展提供有价值的指导。

Apr, 2024

该调查研究了基本模型（FM）在人工智能中的转化影响，重点关注其与联邦学习（FL）相结合在推进生物医学研究中的应用。基于巨大数据集通过无监督预训练、自监督学习、指导微调和人类反馈强化学习等方法训练的基本模型，如 ChatGPT、LLaMa 和 CLIP，代表了机器学习的重要进展。这些模型具有生成连贯文本和逼真图像的能力，在需要处理包括临床报告、诊断图像和多模态患者互动等多样数据形式的生物医学应用中发挥关键作用。将联邦学习与这些复杂模型结合起来，为利用其分析能力同时保护敏感医疗数据的隐私提供了有前途的策略。这种方法不仅提升了基本模型在医学诊断和个性化治疗方面的能力，还解决了医疗保健中数据隐私和安全的重要问题。该调查回顾了基本模型在联邦环境中的当前应用，强调了挑战，并确定了未来的研究方向，包括扩展基本模型、管理数据多样性以及提高联邦学习框架内的通信效率。旨在鼓励进一步研究基本模型和联邦学习的结合潜力，为突破性的医疗创新奠定基础。

May, 2024

使用电子健康记录进行循证医学和准确预测，通过 Fast Healthcare Interoperability Resources (FHIR) 格式表示病人的原始病历记录，并使用深度学习方法进行多中心的多个医疗事件预测，包括住院死亡率、未经计划的 30 天再入院率、医院停留时间延长、所有患者的最终出院诊断等。

Jan, 2018

AI 基础模型的兴起，具有广泛数据训练和可适应下游任务的特点，其机制、应用和社会影响需要更多的跨学科合作来研究。

Aug, 2021