Ophtha-LLaMA2:一款用于眼科的大型语言模型
本文研究和构建了一个眼科大型多模型模型来进行眼科疾病评估和诊断,并通过病情相关知识数据和公开可用的实际医疗对话建立了一个新的眼科多模态指示和对话微调数据集。实验结果表明,该模型表现异常优秀,具有革命性的眼科临床应用潜力。
Jun, 2023
本研究评估了三个不同的大型语言模型(GPT-3.5、GPT-4 和 PaLM2)在回答眼科专业问题方面的表现,并将其与三个不同的专业人员群体(医学本科生、医学硕士和主治医师)进行了比较。结果显示,GPT-4 代表的 LM 在眼科领域表现更好,未来在医学教育和临床决策方面将带来意想不到的好处。
Nov, 2023
通过三种优化策略,我们引入了专门设计用于眼科学的 EyeGPT,该模型的综合评估框架包括不同领域的眼科学数据集、不同用户和多样化的查询意图。该模型在可理解性、可信度和同理心方面与人类眼科医生相当,为开发专门的大型语言模型在眼科学中提供了有价值的见解。
Feb, 2024
这项研究介绍了 Me LLaMA,这是一个医学领域的大型语言模型(LLM)家族,包括基础模型 Me LLaMA 13/70B 和增强聊天版本 Me LLaMA 13/70B-chat。通过在大型医学数据上进行持续预训练和指导调整,Me LLaMA 模型在医学任务上表现优于其他医学 LLMs,适用于医学人工智能应用。
Feb, 2024
提出了一种基于大型语言模型的自动化文章分类方法,主要关注眼科领域,但可扩展到其他领域,采用自然语言处理技术,包括零 - shot 学习的 LLM 模型,通过比较不同变种的 BART,BERT 以及其变种(如 distilBERT,SciBERT,PubmedBERT,BioBERT),证明了 LLM 在无人干预的情况下,对大量眼科论文进行分类的有效性,通过趋势分析使得研究人员和临床医生能够轻松分类和检索相关论文,在文献综述、信息收集、以及不同学科领域内新兴科学趋势识别方面节省时间和精力,同时,该模型在其他科学领域的可扩展性也拓宽了其在促进研究和趋势分析方面的影响。
Aug, 2023
介绍了 PMC-LLaMA, 一种在 4.8 百万篇生物医学论文上 fine-tuning 得到的语言模型,用于注入医学知识,提高在医学领域的性能,经过初步试验后在生物医学数据集上表现出更好的理解生物医学特定概念,在 QA 基准上表现出高性能。
Apr, 2023
本论文介绍了一种将大型语言模型(LLMs)的语言推理能力与本地训练的优势相结合的方法,以解决复杂的领域特定任务。通过从病理报告中提取结构化病情编码,作者演示了他们的方法。研究结果表明,基于 LLaMA 的模型在所有评估指标上明显优于 BERT 型模型,尤其在大型数据集上表现出色,为处理复杂的多标签任务提供了可能性。这项工作提出了一种有效的方法,利用 LLMs 在易于获得的硬件上执行领域特定任务,在需要复杂数据提取和分类的医学领域具有潜在应用。
Aug, 2023
在本研究中,我们展示了一个小型开源语言模型(LLMs)可以有效地从门诊患者 - 医生对话中生成高质量的临床笔记,通过包括持续预训练、监督微调和强化学习在内的综合的领域和任务特定的自适应过程。我们通过增强方法 DistillDirect,以 Gemini Pro 作为教师模型,在策略上进行了强化学习。我们的研究证明了训练较小、开源的 LLMs 以辅助临床文档编写的潜力和可行性,充分利用医疗机构对患者记录和领域专业知识的访问。
Apr, 2024