本文介绍了我们在 MEDIQA-Chat 2023 共享任务中对于从医生 - 患者对话自动生成临床笔记的提交。我们报道了两种方法的结果：第一种微调共享任务数据上的预训练语言模型（PLM），第二种使用大型语言模型（LLM）进行少量样本的上下文学习（ICL）。两种方法在自动指标（如 ROUGE，BERTScore）上均实现了高性能，并分别排名共享任务的二和一位。专业人士的审查表明，通过基于 ICL 的方法和 GPT-4 生成的笔记与人工书写的笔记一样受欢迎，这使其成为从医生 - 患者对话自动生成笔记的有前途的途径。

May, 2023

研究围绕通过两阶段方法和使用 GPT-4 模型进行对话摘要，通过比较与基线的性能表现发现 few-shot prompting 的有效性，但是也指出了它的一些局限性。

Jun, 2023

本研究使用 GPT-3 模型，将医学对话摘要问题离散成多个对话理解任务，并动态构建少样本提示进行实验，开发了基于 GPT 的度量标准，评估任务性能，经过研究评价证实，此方法生成的摘要临床准确性优于基准方法。

May, 2023

本文介绍了 UMASS_BioNLP 团队参加 MEDIQA-Chat 2023 任务 A 和任务 C 的情况，并提出了一种名为医生 - 患者循环的新型 LLMs 合作系统，以生成高质量的对话数据集。通过 ROUGE、医学概念召回率、BLEU 和自身 BLEU 等自动度量标准对方法进行了评估，并对其与 ChatGPT 和 GPT-4 进行了比较分析，同时探讨了利用合作 LLMs 生成高质量数据集的潜力。

Jun, 2023

通过利用 GPT-3 作为算法骨干并采用低样本学习和集成方法，我们介绍了一种算法来创建合成训练数据，以明确关注捕捉医学相关信息，结果相当于采用 6400 个人标记的示例，能够制作出高质量的摘要，就医学准确性和连贯性而言，这种方法产生的摘要明显优于单纯使用人工标记数据进行训练的模型生成的摘要。

Sep, 2021

该论文介绍了针对临床试验的自然语言推理（NLI4CT）任务的新方法。我们提出了 TLDR（利用 T5 生成的临床语言摘要进行 DeBERTa 报告分析），其结合了 T5 模型生成的前提摘要，以改进临床 NLI 任务中的蕴涵和矛盾分析。这种方法克服了窗口较小和前提较长带来的挑战，显著提高了宏观 F1 得分：比截断前提提高了 0.184。我们的全面实验评估，包括详细的错误分析和消融实验，证实了 TLDR 在预测一致性和忠实度方面对语义变化输入的优越性。

Apr, 2024

本研究旨在分析总结模型集合的方法，以提高医疗报告的总体准确性，虽然每个部分专门使用总结模型的总体准确性更高，但多层 / 阶段方法并不能提高准确性。

Jun, 2023

本文研究使用预训练的转换器模型对医患对话转录进行自动摘要的可行性，展示了在特定构造的数据集上，使用有限的训练数据 fine-tuning BART 可以生成流畅而足够的摘要，其生成效果远远超过人工注释者和先前发表的作品质量，并提出了多阶段的方法来处理较长的对话。

Sep, 2021

本研究利用 GPT-3.5 和 GPT-4 生成高质量的反馈，以提高临床笔记摘要的事实一致性，主要关注医学专业人员优化人工智能系统输出的实际场景，通过两种不同的对齐算法（DPO 和 SALT）基于 GPT 的编辑反馈，致力于减少幻觉并与医学事实紧密对齐，突显了 GPT 编辑在提高临床信息准确性方面的巨大潜力。

Feb, 2024

这篇研究论文使用了各种不同的大型语言模型，包括 MPT-7b-instruct，falcon-7b-instruct 和 OpenAI ChatGPT text-davinci-003 模型，通过不同的超参数对生成的摘要进行评估，并发现 text-davinci-003 模型的表现优于其他模型。该研究还分析了 CNN Daily Mail 和 XSum 两个不同的数据集，旨在提供对大型语言模型在不同数据集上应用时性能的全面理解。这项工作为对 NLP 领域的研究人员和从业者提供了有价值的见解，同时也为开发应对各种业务挑战的高级生成式人工智能应用奠定了基础。

Oct, 2023