大型语言模型表决：罕见疾病鉴定提示

Aug, 2023

大型语言模型表决：罕见疾病鉴定提示

Large Language Models Vote: Prompting for Rare Disease Identification

David Oniani, Jordan Hilsman, Hang Dong, Fengyi Gao, Shiven Verma...

TL;DR我们提出了一种灵活的促进方法 ——Models-Vote Prompting (MVP)，以提高在 Few-Shot Learning (FSL) 环境中 LLM 查询的性能，并通过使用 MVP，在一次性罕见疾病的识别和分类任务上得到了比单个模型更好的结果。我们还发布了一份新颖的罕见疾病数据集，用于 FSL，并通过评估使用 JSON 来自动化生成性 LLM 评估的可行性来解决手动注释所需的时间问题。

Abstract

The emergence of generative large language models (LLMs) emphasizes the need for accurate and efficient prompting approaches. LLMs are often applied in few-shot learning (FSL) contexts, where tasks are executed w

generative large language models few-shot learning ai for health models-vote prompting rare disease dataset

发现论文，激发创造

检索与细化：基于大语言模型的罕见病识别混合框架

利用传统的基于词典的自然语言处理工具与大型语言模型相结合的新型混合方法，提高了从非结构化临床记录中识别罕见疾病的能力，并显示了从临床记录中识别病患的潜力。

May, 2024

基于检索增强生成的大型语言模型在零样本疾病表型分类中的应用

通过使用零射击的基于大型语言模型的方法，结合检索增强生成和 MapReduce 技术，我们在肺动脉高压领域展示了一种有效识别疾病的方法，该方法在诊断中明显优于医生逻辑规则（F1 分数为 0.62 比 0.75），从而有望增强罕见疾病群体的识别和推动临床研究以及关注空缺的发现。

Dec, 2023

大型语言模型的自动提示选择

自动选择给定输入的最佳提示，克服手动设计有效提示的挑战，通过聚类训练数据、生成候选提示、生成输入 - 提示 - 输出数据集以训练评估器，并使用评估器在测试时选择最佳提示来实现兼顾通用性和特异性的方法。在零 - shot 问答数据集上显示出竞争性性能。

Apr, 2024

一种混合软提示的可控数据生成方法

本文介绍了一种利用大型语言模型作为数据增强工具的技术，即利用软提示的混合模型进行参数有效的数据生成，并通过去噪机制提高生成数据的质量，此方法能够在复杂预测任务中实现对标签语义的保留，达到优于强基准的最新结果。

Mar, 2023

隐私保护上下文引导增强小型医学学习者

本文提出了一种简单而有效的方法，通过从医疗数据中提取关键词并模拟临床医生的思维过程，从而缓解患者隐私问题，增强小型语言模型在医学任务中的决策能力，最终在受隐私限制的情境下取得了新的结果，并在两个医学任务中达到了新的最高水平

May, 2023

为临床任务对齐大型语言模型

大型语言模型在临床应用中的关键性挑战是对其进行有效的对齐，以实现准确生成具备事实内容和非平凡推理能力的响应。本研究提出了一种名为 “扩展 - 猜测 - 精化” 的医学问题回答的对齐策略，该策略通过采用指令调整和少样本以及连续思考等方法显著提高了大型语言模型的性能。初步分析表明，该方法在从 USMLE 数据集中选取的问题子集上达到了 70.63% 的优异表现。

Sep, 2023

利用大型语言模型解决数据中心任务

通过挖掘 StackOverflow 帖子中的实际自然语言到代码任务来创建一个数据集，该论文提出了一种以聚类选择为基础的提示技术来确定在 LLMs 提示中包含多少数据以及选择哪些数据，并通过实验表明 LLM 的性能确实对提示中所传递的数据量敏感，对于输入表中存在大量语法变化的任务，聚类选择技术优于随机选择基准模型。

Feb, 2024

零轉化臨床自然語言處理中大型語言模型的提示策略實證評估

本文综合系统地对五个临床自然语言处理任务（临床意义消除、生物医学证据提取、共指消解、药物状态提取和药物属性提取）的提示工程进行了实验研究，评估了多种提示类型在三种先进的大型语言模型（GPT-3.5、BARD 和 LLAMA2）上的性能，并提出了对临床 NLP 领域提示工程的新见解和指南。

Sep, 2023

知识注入引导：基于大型语言模型的临床文本数据生成评估与推进

通过结合临床领域特定知识图谱和大语言模型，在临床自然语言处理中提出了一种创新、资源高效的方法 ClinGen，通过临床知识提取和上下文信息化的大语言模型指导数据生成，持续提升性能，对生成训练实例的多样性和真实数据分布进行有效调整。

Nov, 2023

通过提示调节提高大型语言模型提取社会健康决定因素的泛化能力

利用软提示学习架构，该研究提出了一种新的方法来引导大型语言模型实现对患者信息的提取，评估了两种类型的语言模型在跨领域应用中的性能，并发现使用解码器模型进行软提示调优的结果更好。GatorTronGPT 在最佳 F1 得分上超过传统的 GatorTron 模型，分别在跨机构环境中提高了 8.9% 和 21.8%，在跨疾病环境中提高了 5.5% 和 14.5%。

Mar, 2024