Jan, 2024

放射治疗自然语言处理数据库

PDF
TL;DR我们提供了放射治疗自然语言处理数据库（ROND），这是放射治疗领域的首个专用 NLP 数据集，旨在为该领域的研究和发展提供专门设计的数据集和基准。ROND 涵盖了多种 NLP 任务，包括逻辑推理、文本分类、命名实体识别（NER）、问答（QA）、文本摘要和患者 - 临床医师对话，每种任务都对放射治疗概念和应用案例有着明确的关注点。此外，我们还通过基于 ROND 的 20k 指令对数据集开展了调整，并训练了一个大型语言模型 CancerChat，以展示在高度专业化的医疗领域中指令调整大型语言模型的潜力。本研究的评估结果可为未来研究提供基准结果。ROND 旨在为放射治疗和临床 NLP 的进展提供一个测试和改进算法和模型的领域特定上下文的平台。ROND 数据集是多个美国卫生机构的联合工作。数据可在以下 URL 获得：
发现论文，激发创造
  • 临床放射肿瘤学中的自然语言处理技术和框架简介

    该研究回顾了现代自然语言处理模型的关键技术创新，并介绍了在放射肿瘤学研究中使用大型语言模型的最新应用，同时提出了一种全面的框架来评估 NLP 模型以便在临床应用前进行严格的评估和验证。

    Nov, 2023

  • RadOnc-GPT：一种针对放射肿瘤学的大型语言模型

    本文提出了 RadOnc-GPT，这是一个专为放射肿瘤治疗而设计的大型语言模型，通过先进的调优方法进行专项调优。RadOnc-GPT 在 Mayo Clinic 的放射肿瘤学患者记录和临床笔记的大型数据集上进行了微调。该模型在三个关键任务上进行了指令调优，包括生成放射治疗方案、确定最佳放射疗法，以及根据患者诊断详情提供诊断描述 / ICD 代码。将 RadOnc-GPT 生成的输出与通用大型语言模型的输出进行比较的放射肿瘤学家评估显示，RadOnc-GPT 的输出在清晰度、特异性和临床相关性方面有显著改善。本研究证明了使用像 RadOnc-GPT 这样通过领域特定知识进行调优的大型语言模型，在放射肿瘤学等高度专业的医疗领域实现转型能力的潜力。

    Sep, 2023

  • 大规模结构化现实世界数据的研究：利用患者级监督的深度学习从临床文本中提取关键肿瘤信息

    本文介绍了使用自然语言处理技术和基于深度学习的方法处理医学记录中的实际数据，通过利用医学注册处重点患者信息的导向监督，并结合领域特定的预训练、递归神经网络和分层注意的方法，实现了在医疗系统中具有可伸缩性的实证研究。

    Mar, 2022

  • RO-LLaMA：通过噪声增强和一致性正则化实现放射治疗的综合型医学语言模型

    近期人工智能在医疗领域有了显著进展，本研究提出 RO-LLaMA，一个通用的大型语言模型，特为放射肿瘤学领域量身定制，能够在临床报告总结、放疗方案建议等任务中表现出卓越的性能，并且通过 CEFTune 技术进一步提高了模型的鲁棒性，同时保持了处理干净输入的能力，还将此概念创造性地转化为 LLM 驱动的分割框架 CESEG。实验结果表明，RO-LLaMA 在多中心队列数据集上展现了出色的性能和泛化能力。

    Nov, 2023

  • OncoGPT: 一个基于大型语言模型元人工智能（LLaMA）的医学对话模型，专注于肿瘤学领域专业知识

    开发了一种专用语言模型，通过在医生患者平台上清洗和匿名化的癌症相关对话数据集进行迭代微调，提高了模型对患者查询的理解和提供癌症相关建议的可靠性。

    Feb, 2024

  • 乳腺癌肿瘤的大型语言模型流水线

    使用 Langchain 提示工程流程，Fine-tune 基于临床数据和临床指南文本语料库的先进 OpenAI 模型，实现了对乳腺癌患者的辅助放疗和化疗的高准确率（0.85+）分类。通过从人类肿瘤学家的观察数据建立信心区间，估计模型必须在治疗预测中超过原始肿瘤学家的比例为 8.2％至 13.3％。尽管肿瘤治疗决策结果的不确定性，但未来研究，可能是临床试验，需要确定这一阈值是否被模型满足。然而，因为 85％的美国癌症患者在本地社区设施接受治疗，这些模型在扩大获取质量护理的同时，最小程度上接近人类肿瘤学家将发挥重要作用。

    Jun, 2024

  • GGPONC：基于临床实践指南的德语医学文本富元数据语料库

    本文介绍了 GGPONC（德国肿瘤规范化治疗自然语言处理语料库），它是基于肿瘤规范化治疗的德语语料库之一，为德语语言医学信息提取和自然语言处理研究提供了巨大的帮助

    Jul, 2020

  • 使用自然语言处理方法识别具有高急危重症风险的肿瘤患者临床记录

    本研究使用自然语言处理技术，比较了深度学习模型和手动工程化语言特征模型，在使用自由文本格式预测急性护理使用风险上的表现，结果表明，使用结构化健康数据模型能够最小限度地胜过 NLP 模型。

    Sep, 2022

  • 使用大型语言模型从医疗肿瘤学记录中提取详细的肿瘤学历史和治疗计划

    使用两节临床进展笔记为对象，设计了详细的标注方案，并评估了三个最近发布的大型语言模型 (GPT-4、GPT-3.5-turbo 和 FLAN-UL2) 对临床进展笔记中肿瘤学等细节信息的零 - shot 提取能力，结果显示 GPT-4 模型在复杂任务上表现最佳，能够从肿瘤学进展笔记中提取重要事实。

    Aug, 2023

  • 临床报告标注的收益递减

    本文揭示了一种有些反直觉的结论，即相对于非医学领域的 NLP 问题，医学 NLP 模型在小量标记数据的训练下表现出更好的效果，并通过使用最大的公共胸透放射学报告数据集之一的两个固定测试集，在异常分类任务上显示出训练数据大小对模型性能的影响。

    Oct, 2020