Med42-v2：临床大型语言模型套件
大型语言模型在临床应用中的关键性挑战是对其进行有效的对齐，以实现准确生成具备事实内容和非平凡推理能力的响应。本研究提出了一种名为“扩展-猜测-精化”的医学问题回答的对齐策略，该策略通过采用指令调整和少样本以及连续思考等方法显著提高了大型语言模型的性能。初步分析表明，该方法在从USMLE数据集中选取的问题子集上达到了70.63%的优异表现。
Sep, 2023
大型语言模型在医疗领域的利用引发了劲头和担忧，本文概述了目前开发的大型语言模型在医疗保健方面的能力，并阐明它们的发展过程，旨在提供从传统预训练语言模型（PLMs）到大型语言模型（LLMs）的发展路线图的概览。总的来说，我们认为正在进行一次重大的范式转变，从PLMs过渡到LLMs，这包括从辨别式人工智能方法向生成式人工智能方法的转变，以及从以模型为中心的方法论向以数据为中心的方法论的转变。
Oct, 2023
大型语言模型在医疗保健领域的部署引发了热情和忧虑，本综述论文探讨了针对医疗保健应用设计的现有大型语言模型的功能，从传统的预训练语言模型到目前的医疗保健领域的大型语言模型发展轨迹，特别关注临床语言理解任务的潜力以及性能评估、挑战和限制。
Dec, 2023
这项研究介绍了Me LLaMA，这是一个医学领域的大型语言模型（LLM）家族，包括基础模型Me LLaMA 13/70B和增强聊天版本Me LLaMA 13/70B-chat。通过在大型医学数据上进行持续预训练和指导调整，Me LLaMA模型在医学任务上表现优于其他医学LLMs，适用于医学人工智能应用。
Feb, 2024
该研究对两种主要的微调方法——全参数微调和参数高效微调——在医学大型语言模型（LLM）领域进行了全面的分析和比较。通过开发和优化一系列基于Llama-2架构的医学LLM，从而提升医学知识检索、推理和问答的能力，我们系统地评估了这些微调策略在各种知名医学基准测试上的有效性。值得注意的是，我们的医学LLM Med42在美国医学执照考试（USMLE）数据集上表现出了72%的准确率，为公开可用的医学LLM性能树立了新的标准。通过这种比较分析，我们旨在找到医学领域LLM微调的最有效和高效方法，从而在推动以人工智能驱动的医疗应用方面做出重大贡献。
Apr, 2024
综述医疗大型自然语言模型（Med-LLM）的进化历史、技术、应用以及对医疗保健的影响，涵盖临床决策支持、报告生成、医学教育等方面，探索其潜力和限制，并讨论公平性、责任感、隐私保护和鲁棒性等挑战，展望未来的发展方向。
Jun, 2024
使用轻量级预训练大型语言模型（LLMs）开发的Med-Pal被证明在数字健康通信中具有可行性，通过微调和优化，Med-Pal可提供适合患者沟通的响应，并减少通常在一般LLMs中存在的偏差和错误。
Jul, 2024
本研究提出了MedS-Bench，旨在评估大型语言模型在临床环境中的表现，填补了现有基准的不足。通过开发MedS-Ins数据集，我们为医学领域提供了大量指令微调的数据，能够有效提升模型在复杂临床任务上的表现。我们的成果不仅展示了MMedIns-Llama 3的优越性，还通过公开数据集促进了医疗领域的进一步研究与发展。
Aug, 2024
本研究探讨了生物医学领域特定微调的大语言模型在面对不同临床任务时的有效性，发现其大多数情况下表现不及通用模型。特别是在缺乏医学知识的任务中，小型生物医学模型表现尤为逊色。这一发现挑战了当前关于领域特定微调的假设，并强调了在医疗人工智能中需要更严格的评估框架。
Aug, 2024