Feb, 2024

放射治疗症状提取的迭代式提示优化方法：基于教师 - 学生大语言模型

PDF
TL;DR利用大型语言模型（LLM）改进前列腺癌放疗症状提取的新型师生结构，Mixtral 作为学生模型，首先提取症状，然后利用 GPT-4 作为教师模型，根据 Mixtral 的表现优化提示，结果表明在提取单一和多症状笔记方面取得了显著改进，证明了 LLMs 在放射肿瘤学中先进提示工程的有效性。
teacher-student architecturelarge language models (llms)prostate cancer radiotherapysymptom extractionprompt engineering
发现论文，激发创造
  • 使用大型语言模型从医疗肿瘤学记录中提取详细的肿瘤学历史和治疗计划

    使用两节临床进展笔记为对象，设计了详细的标注方案，并评估了三个最近发布的大型语言模型 (GPT-4、GPT-3.5-turbo 和 FLAN-UL2) 对临床进展笔记中肿瘤学等细节信息的零 - shot 提取能力，结果显示 GPT-4 模型在复杂任务上表现最佳，能够从肿瘤学进展笔记中提取重要事实。

    Aug, 2023

  • 探索多语言大型语言模型以提升肺癌分期放射学报告的 TNM 分级分类

    本研究旨在调查利用 GPT3.5-turbo（GPT3.5）进行放射学报告的 TNM 分级的准确性及多语种 LLMs 在日语和英语中的实用性。通过分析多语言 TNM 定义对准确性的影响，研究表明提供完整的 TNM 定义可明显提高放射学报告的分类准确性，且多语种 LLMs 在放射学领域具有潜在应用价值。

    Jun, 2024

  • 评估大型语言模型在高度专业化主题放射肿瘤物理学上的应用

    本研究研究使用 LLMS 答题的能力。我们开发了一个包含 100 个肿瘤放射物理学问题的考试，将四个 LLM（ChatGPT（GPT-3.5），ChatGPT（GPT-4），巴德（LaMDA）和 BLOOMZ）与医学物理学家和非专业人员进行了评估。ChatGPT（GPT-4）平均表现优于所有其他 LLM 以及医学物理学家。ChatGPT（GPT-4）在被激发先解释，然后再回答的情况下表现得更好。ChatGPT（GPT-4）展示了出人意料的准确性，表明了一种新颖的推理能力，但存在固有属性以及无法通过大多数投票进一步提高得分。

    Apr, 2023

  • 利用大型语言模型为患者匹配临床试验

    研究使用大型语言模型（LLMs）协助患者和转诊医生从广泛的选择中筛选适合的临床试验，并评估了 TrialGPT 在 184 名患者和 18,238 个注释临床试验的实验结果，表明其高准确性和排名排除不合格候选试验的有效性。

    Jul, 2023

  • 大型语言模型在总结放射学报告印象方面的现状

    研究了 8 种大型语言模型对放射学报告印象进行总结的能力，使用 CT、PET-CT 和超声波报告构建零、一、三次扫描提示，并定义了五项人工评价指标以评估印象的语义，结果显示大型语言模型在完整性和正确性方面表现较好，但简洁性和真实性评分不高，并指出少量扫描提示可以提高模型的简洁性和真实性，但临床医师仍认为大型语言模型不能取代放射学家的总结能力。

    Jun, 2024

  • 乳腺癌肿瘤的大型语言模型流水线

    使用 Langchain 提示工程流程，Fine-tune 基于临床数据和临床指南文本语料库的先进 OpenAI 模型，实现了对乳腺癌患者的辅助放疗和化疗的高准确率（0.85+）分类。通过从人类肿瘤学家的观察数据建立信心区间，估计模型必须在治疗预测中超过原始肿瘤学家的比例为 8.2％至 13.3％。尽管肿瘤治疗决策结果的不确定性，但未来研究，可能是临床试验，需要确定这一阈值是否被模型满足。然而，因为 85％的美国癌症患者在本地社区设施接受治疗，这些模型在扩大获取质量护理的同时，最小程度上接近人类肿瘤学家将发挥重要作用。

    Jun, 2024

  • 利用专业放射科医师的专长提升放射学报告的 LLM 评估

    利用大型语言模型进行人工智能辅助的放射学报告生成与评估研究，通过结合放射科医生专业知识并采用相关评估指标以提高医学报告质量评估水平。

    Jan, 2024

  • 通过基于 Transformer 的提示工程提升自动医疗报告的摘要性能

    通过使用两种不同的提示策略（即 shot 提示和 pattern 提示），该研究通过结合范围和领域上下文，改善了自动医学报告的性能，并且获得了最高分数，超过了一般执业医生的参考文献。然而，由于报告中添加了冗余和相关陈述，自动报告的长度大约是人工参考的两倍。

    Nov, 2023

  • 面向专家级临床笔记生成的开源大型语言模型的适应性

    在本研究中，我们展示了一个小型开源语言模型（LLMs）可以有效地从门诊患者 - 医生对话中生成高质量的临床笔记，通过包括持续预训练、监督微调和强化学习在内的综合的领域和任务特定的自适应过程。我们通过增强方法 DistillDirect，以 Gemini Pro 作为教师模型，在策略上进行了强化学习。我们的研究证明了训练较小、开源的 LLMs 以辅助临床文档编写的潜力和可行性，充分利用医疗机构对患者记录和领域专业知识的访问。

    Apr, 2024

  • RadOnc-GPT：一种针对放射肿瘤学的大型语言模型

    本文提出了 RadOnc-GPT，这是一个专为放射肿瘤治疗而设计的大型语言模型，通过先进的调优方法进行专项调优。RadOnc-GPT 在 Mayo Clinic 的放射肿瘤学患者记录和临床笔记的大型数据集上进行了微调。该模型在三个关键任务上进行了指令调优，包括生成放射治疗方案、确定最佳放射疗法，以及根据患者诊断详情提供诊断描述 / ICD 代码。将 RadOnc-GPT 生成的输出与通用大型语言模型的输出进行比较的放射肿瘤学家评估显示，RadOnc-GPT 的输出在清晰度、特异性和临床相关性方面有显著改善。本研究证明了使用像 RadOnc-GPT 这样通过领域特定知识进行调优的大型语言模型，在放射肿瘤学等高度专业的医疗领域实现转型能力的潜力。

    Sep, 2023