MKA: 面向医疗对话任务的可扩展医疗知识辅助生成模型机制
通过在医学学科上对小型语言模型进行微调和使用 GPT-4 生成类似下游任务的问题进行微调,我们提出了一种方法来提高医学领域中小型语言模型的熟练度。此外,我们还引入了包含相关问题序列的 “渐进问题” 的 ECN-QA,以展示我们的训练策略的好处。
May, 2024
通过结合医学知识图谱和内部临床路径编码,本研究提出了医学对话增强与临床路径编码(MedKP)框架,通过综合评估指标在两个大规模实际在线医学咨询数据集上的实验证明,MedKP 超过了多个基准系统,减少了产生幻觉的情况,达到了新的最先进水平,进一步的剔除研究揭示了 MedKP 每个组件的有效性,促进了可靠自动化的医学咨询响应的发展,从而拓宽了精确实时医学辅助的潜在可及性。
Mar, 2024
通过结合医学知识图谱和新颖的图模型 Dr.Knows,我们提出一种创新的方法来提高大型语言模型在自动诊断生成领域的能力,从而消除预训练的需要,提高自动诊断生成的准确性。
Aug, 2023
我们提出了 SA-MDKIF,它是一个可扩展和适应性强的框架,通过指令调整将医学知识注入通用语言模型,从而使其能够适应各种下游任务,实验证明 SA-MDKIF 相比原始的大型语言模型在医学任务中的性能提升了 10-20%,对于未见过的医学任务,性能提升高达 30%。
Feb, 2024
整合知识图谱和大型语言模型的 medIKAL 框架能够通过对实体的加权重要性和路径重新排序等策略提升电子病历的诊断能力,为临床推理和诊断带来了新的突破。
Jun, 2024
通过自然语言处理和多模态范式,ChatGPT 探索了医学诊断、治疗建议和其他医疗支持的问题回答的战略蓝图,在医学领域数据的逐渐整合下,这些技术加快了医学领域问题回答的进展,通过连接人类自然语言与医学领域知识或专家手动注释的空白,处理了医学环境下大规模、多样化、不平衡或无标签数据分析的场景,强调了在不同任务和数据集中的应用,并概述了当前的挑战和未来医学领域研究的机遇和创新。
Jan, 2024
本研究开发了一个增强的 LLM 框架 KG-Rank,利用医学知识图谱和排名技术,旨在改善医学领域中的自由文本问答。评估结果显示,KG-Rank 在 ROUGE-L 得分上取得了超过 18% 的改进,证明了 KG-Rank 的有效性和潜力。
Mar, 2024
为了解决医疗文本中医学术语、文本类型等多样性问题,我们提出一种名为 KG-MTT-BERT 的模型,通过医疗知识图谱的整合,拓展了 BERT 模型,可以更好地处理长文本和多类型文本,并在 DRG 分类等任务上表现优异。
Oct, 2022
Meerkat-7B 是一个具有 70 亿参数的新型医疗人工智能系统,通过使用来自 18 本医学教科书的高品质推理路径和多样的指令跟随数据集进行训练,成功地在七个医学基准测试中取得了出色的准确性,在超过 GPT-3.5 13.1%的同时,还超过了先前的 7B 模型(如 MediTron-7B 和 BioMistral-7B)分别达到了 13.4%和 9.8%的性能,并且首次超过了 United States Medical Licensing Examination(USMLE)的 7B 参数模型通过阈值。此外,相比现有的 7B 和 13B 模型,我们的系统对临床问题提供了更详细的自由形式回答,接近于 GPT-3.5 的性能水平,这大大缩小了与大型语言模型之间的性能差距,展示了它在应对复杂的医学挑战方面的有效性。
Mar, 2024
本文提出一种嵌入医疗领域知识和启用 Few-shot Learning 的方法,以迎合需要广泛的领域专业知识和语义知识(如医疗保健)的领域的需求。利用一种简单但有效的检索方法,本文高效提取医学背景知识以引导 ChatGPT 的推理和寻答的逻辑。我们的知识增强模型在 CNMLE-2022 上取得了高分 70,且不仅能够通过 CNMLE 考试但是还超越了人类的平均分数(61),这证明了知识增强 ChatGPT 作为多功能医疗助手的潜力,能够以更易于使用和适应的方式分析现实世界的医学问题。
May, 2023