MedChatZH:一个更好的医疗顾问从更好的指南中学习
该研究论文介绍了一个基于中医的大型语言模型,通过从事前训练到强化学习与人类反馈(RLHF)的整个训练流程,以及引入一个包含 7 万个真实医患对话的中文多轮医疗对话数据集 CMtMedQA,该模型在多个方面超越了基线模型,并且通过对该模型的进一步改进来提高其指令遵循能力和安全性。
Aug, 2023
该研究旨在解决大型语言模型在医学领域的准确性问题,通过采集汉语医学对话数据库并使用一些技术训练了易于部署的的 ChatGLM-6B 模型,最终可以以较低的成本实现健康医疗目的的 LLM。
Apr, 2023
本论文提出了将现有的语言模型细调为医疗领域的医生 - 患者对话模型,以更好地理解患者需求、为医疗领域提供有价值的帮助,并将进一步开源相关数据、代码和模型来推进医疗领域的对话模型的发展。
Mar, 2023
通过引入新的医学问答数据集 TCMD,本文评估了不同领域通用语言模型和医学领域特定语言模型在中医领域的能力,并分析了它们在中医问答任务中的鲁棒性及其存在的不足。希望该数据集进一步促进中医领域通用语言模型的发展。
Jun, 2024
近年来,对优质医疗服务的需求日益增长,凸显了医疗基础设施中的差异。随着大数据,特别是文本,成为医疗服务的基石,迫切需要专为医疗领域量身定制的有效自然语言处理(NLP)解决方案。我们提出了 ChiMed-GPT,这是一个专为中国医疗领域设计的新型基准大语言模型,其上下文长度扩展为 4,096 个标记,并经历了全面的预训练、有监督微调和强化学习高强度训练过程。在信息提取、问题回答和对话生成等真实世界任务中的评估结果表明,ChiMed-GPT 在医疗领域的性能优于一般领域的大语言模型。此外,通过要求 ChiMed-GPT 执行涉及对患者歧视的态度评定,我们分析了可能存在的偏见,以促进医疗领域大语言模型的负责任开发。代码和模型已经在此 URL 发布。
Nov, 2023
使用大型语言模型研究中医药学领域的知识召回和综合推理能力,通过 TCM-QA 数据集评估 LLM 在零样本和少样本设置下的表现,讨论中英提示的差异,结果显示 ChatGPT 在判断题中取得最高精度 0.688,多选题中最低精度为 0.241,中文提示在评估中表现更好,同时评估 ChatGPT 生成的解释质量及其对中医药学知识理解的潜在贡献,为 LLM 在专业领域的适用性提供了有价值的见解,并促进了未来基于这些强大模型推进中医药学研究的方向。
Mar, 2024
HuaTuo 是基于 LLaMA 模型,使用生成的 QA 实例进行监督微调,以提高其在生物医学领域任务中的表现,实验结果表明,HuaTuo 生成的响应具有更加可靠的医学知识。
Apr, 2023
使用连续训练和指导微调的方法,快速适应中国医学领域的 Llama 2 基础模型,实验证实了该方法的有效性,产生了与 GPT-3.5-turbo 相媲美的模型,并且使用更少的计算资源。这个领域特定模型对于各种中国医学应用是有用的,并为领域特定训练提供了一个模板,用于那些预训练模型缺乏所需专业知识的领域,如法律、科学和工程。
Nov, 2023
该研究介绍了 Qilin-Med-VL,首个中文大型视觉语言模型,旨在集成对图文数据的分析,通过预训练的 Vision Transformer 和基础语言模型的两阶段课程训练过程增强了生成医学字幕和回答复杂医学查询的能力,同时发布了由超过 1M 个图文对组成的 ChiMed-VL 数据集,可用于对医学数据进行详细和全面的解释。
Oct, 2023
通过大型语言模型,本研究设计了基于认知行为疗法的特定提示,生成了针对中国心理健康问答的 CBT QA 数据集,并利用该数据集对大型语言模型进行微调,从而产生了专为认知行为疗法技术设计的大规模语言模型 CBT-LLM。经验评估表明 CBT-LLM 在心理健康支持任务中能够产生结构化、专业和高度相关的回应,展示了其实用性和质量。
Mar, 2024