Nov, 2023

RO-LLaMA：通过噪声增强和一致性正则化实现放射治疗的综合型医学语言模型

PDF
TL;DR近期人工智能在医疗领域有了显著进展，本研究提出 RO-LLaMA，一个通用的大型语言模型，特为放射肿瘤学领域量身定制，能够在临床报告总结、放疗方案建议等任务中表现出卓越的性能，并且通过 CEFTune 技术进一步提高了模型的鲁棒性，同时保持了处理干净输入的能力，还将此概念创造性地转化为 LLM 驱动的分割框架 CESEG。实验结果表明，RO-LLaMA 在多中心队列数据集上展现了出色的性能和泛化能力。
artificial intelligencemedical fieldsro-llamaradiation oncologyceftune
发现论文，激发创造
  • 放射肿瘤学中基于 LLM 的多模态靶体积勾画

    在放射治疗中，靶体积轮廓的划定被认为比正常器官分割任务更具挑战性，因为它需要利用图像和基于文本的临床信息。受到大型语言模型（LLMs）的最新进展的启发，可以促进文本信息和图像的融合，我们提出了一种新颖的 LLM 驱动的多模态人工智能，应用于放射治疗中具有挑战性的靶体积轮廓任务，并在乳腺癌放疗靶体积轮廓的背景下进行验证。通过外部验证和数据不足环境的使用，这对于实际应用非常有益，我们证明了所提出的模型相比传统的仅视觉 AI 模型具有明显改进的性能，特别是在具有鲁棒泛化性能和数据效率的方面。据我们所知，这是第一个将临床文本信息整合到放射肿瘤学的靶体积划定中的 LLM 驱动多模态 AI 模型。

    Nov, 2023

  • 有效微调以提升大型多模态放射学报告生成模型

    利用生成性人工智能进行医学图像的放射学报告撰写可极大地减少了时间成本和错误率。本研究中，我们提出了一个简单而有效的两阶段微调方案，通过软性视觉提示将视觉特征与大型语言模型的文本嵌入空间对齐。我们的框架在没有领域特定预训练的情况下取得了最先进的性能，并对软性视觉提示和注意力机制进行了详细分析，为未来的研究方向提供了启示。

    Dec, 2023

  • 放射学 - Llama2：一流的大型语言模型用于放射学

    Radiology-Llama2 是一个基于 Llama2 体系结构的大型语言模型，通过指令调整的过程在放射学领域达到了最先进的性能，它可以根据放射学检查结果生成连贯且临床有用的印象。

    Aug, 2023

  • 乳腺癌肿瘤的大型语言模型流水线

    使用 Langchain 提示工程流程，Fine-tune 基于临床数据和临床指南文本语料库的先进 OpenAI 模型，实现了对乳腺癌患者的辅助放疗和化疗的高准确率（0.85+）分类。通过从人类肿瘤学家的观察数据建立信心区间，估计模型必须在治疗预测中超过原始肿瘤学家的比例为 8.2％至 13.3％。尽管肿瘤治疗决策结果的不确定性，但未来研究，可能是临床试验，需要确定这一阈值是否被模型满足。然而，因为 85％的美国癌症患者在本地社区设施接受治疗，这些模型在扩大获取质量护理的同时，最小程度上接近人类肿瘤学家将发挥重要作用。

    Jun, 2024

  • OncoGPT: 一个基于大型语言模型元人工智能（LLaMA）的医学对话模型，专注于肿瘤学领域专业知识

    开发了一种专用语言模型，通过在医生患者平台上清洗和匿名化的癌症相关对话数据集进行迭代微调，提高了模型对患者查询的理解和提供癌症相关建议的可靠性。

    Feb, 2024

  • 利用专业放射科医师的专长提升放射学报告的 LLM 评估

    利用大型语言模型进行人工智能辅助的放射学报告生成与评估研究，通过结合放射科医生专业知识并采用相关评估指标以提高医学报告质量评估水平。

    Jan, 2024

  • 癌症 LLM：一个癌症领域的大型语言模型

    该研究提出了 CancerLLM 模型，该模型具有 70 亿个参数和 Mistral 风格的架构，预先训练了 2,676,642 份临床笔记和 515,524 份病理报告，涵盖了 17 种癌症类型，并在三个与癌症相关的任务上进行了微调，包括癌症表型提取、癌症诊断生成和癌症治疗计划生成。评估结果表明，CancerLLM 相对于其他现有的语言模型取得了最先进的结果，平均 F1 得分提高了 8.1％。此外，CancerLLM 在两个提出的鲁棒性测试中表现优于其他模型，这表明 CancerLLM 可以有效应用于临床 AI 系统，增强了癌症领域的临床研究和医疗服务。

    Jun, 2024

  • 癌症临床决策中的自主人工智能代理

    多模态人工智能系统能够通过解释各种类型的医疗数据来增强临床决策，本研究引入了一种利用大型语言模型作为中央推理引擎的多模态医疗人工智能的替代方法，通过验证该系统在临床肿瘤学场景中的表现，证实了语言模型能够作为专科、以患者为中心的临床助手的有效性。

    Apr, 2024

  • 探索多模态大型语言模型用于放射学报告错误检查

    该研究通过多模态大型语言模型（LLMs）作为辅助工具，检视放射科医生报告中的错误，取得良好的效果，对放射学诊断准确性的提升具有潜力。

    Dec, 2023

  • 面向专家级临床笔记生成的开源大型语言模型的适应性

    在本研究中，我们展示了一个小型开源语言模型（LLMs）可以有效地从门诊患者 - 医生对话中生成高质量的临床笔记，通过包括持续预训练、监督微调和强化学习在内的综合的领域和任务特定的自适应过程。我们通过增强方法 DistillDirect，以 Gemini Pro 作为教师模型，在策略上进行了强化学习。我们的研究证明了训练较小、开源的 LLMs 以辅助临床文档编写的潜力和可行性，充分利用医疗机构对患者记录和领域专业知识的访问。

    Apr, 2024