Jan, 2024

从医学文本中提取医疗决策树的 Text2MDT

PDF
TL;DR通过自动提取医疗文本中的医疗决策树，我们提出了一种新的任务 Text2MDT，探索构建临床决策支持系统的能力。使用两种方法进行 Text2MDT 任务的研究，一个是只依赖大型语言模型（LLM）指导的端到端框架，另一个是将 Text2MDT 任务分解为三个子任务的流水线框架。实验结果表明，使用 LLMs 的端到端方法在 Text2MDT 数据集上表现出色，优于流水线方法。
发现论文，激发创造
  • 多模态树解码器用于文档图像中的目录提取

    本文提出了一个新的端到端的模型，使用多模式树解码器 (MTD) 来作为 HierDoc 的基准评测，在提取文档标题和分级之间的关系时，模型使用文本、视觉、布局信息等多模态特征进行融合，最终在 TEDS 相似度度量和 F1-Measure 上平均分别达到了 87.2% 和 88.1% 的表现。

    Dec, 2022

  • 大语言模型结构化数据提取可解释的医疗诊断

    本研究提出了一种从文本医学报告中提取结构化表格数据的新方法 TEMED-LLM，结合具有解释性的机器学习模型，以在医学诊断中实现端到端可解释性的预测， 较传统的文本分类模型在医学诊断方面具有更好的性能表现。

    Jun, 2023

  • BERT 在生物医学文本挖掘中的多任务学习的实证研究

    研究了一种多任务学习模型，应用于生物医学和临床自然语言处理任务中，结果表明该模型相比于目前的 transformer 模型，在生物医学和临床领域的表现分别提高了 2.0% 和 1.3%，并进一步展示了任务间的相互关系。

    May, 2020

  • MedDM: 临床决策制定的 LLM 可执行的临床指导树

    提出了可用于大型语言模型的 LLM 执行的临床指导树（CGT），并根据临床实践指南中的流程图构建了医学诊断决策数据集（MedDM），从医学文献中筛选出流程图并将其转化为标准化的诊断决策树，构建了包含 1202 个决策树的知识库，涵盖了内科、外科、精神科等 12 个医院科室和 500 多种疾病，同时提出了对 LLM 可执行 CGT 的推理方法和患者 - LLM 多轮对话框架。

    Dec, 2023

  • 医学 mT5：一个开源的医学领域的多语言文本到文本 LLM

    目前，医疗应用的语言技术研究是自然语言理解和生成中的一个热门话题。本文通过编制迄今为止在医疗领域最大的四种语言（英语、法语、意大利语和西班牙语）的多语言语料库，训练出医学领域首个开源的多语言文本对文本模型 Medical mT5，并提出两个新的评估基准，以促进该领域的多语言研究。全面评估结果显示，Medical mT5 在西班牙语、法语和意大利语基准中优于编码器和同等规模的文本对文本模型，与当前最先进的英语大型语言模型具有竞争力。

    Apr, 2024

  • 基于提示的生成方法用于多层次医疗对话状态跟踪

    通过定义多层次状态结构和使用基于提示的生成方法，我们提出了一种医疗对话系统中跟踪对话状态的解决方案，该方法有效地解决了数据稀缺问题，并表现出超过其他方法的性能。

    Mar, 2022

  • 可解释机器学习的决策树混合模型

    介绍了一种新的可解释机器学习方法，称为决策树混合模型 (MoDT)，该方法利用线性模型作为门控函数，利用决策树作为专家，适用于不能被单棵决策树满足的问题，并将问题分为子问题，使得每个决策都可理解和追踪到人类。 通过实验证明，MoDT 相对于单个决策树和复杂度相似的随机森林有更好的表现。

    Nov, 2022

  • 儿科 GPT：用于儿科应用的大型语言模型作为中国医学助手

    通过创建高质量数据集 PedCorpus 和应用系统性和稳健的训练流程构建了中国首个儿科大型语言模型助手 PediatricsGPT，以改善诊断效率，解决中国医疗资源匮乏的问题。

    May, 2024

  • MT-Clinical BERT: 使用多任务学习扩展临床信息抽取能力的 BERT 模型

    采用 Multitask-Clinical BERT 模型，可同时执行包括实体抽取、PHI 识别、语言蕴含和相似性在内的 8 种临床任务，极大减轻了信息提取系统的工程负担且表现出色。

    Apr, 2020

  • HuatuoGPT，驯化语言模型成为医生

    HuatuoGPT 是一款用于医学咨询的大型语言模型，通过结合 ChatGPT 的蒸馏数据和医生的实际数据进行监督精调，并使用增强学习模型以更好地利用两种数据的优势，表现出出色的实验效果。

    May, 2023