Feb, 2023

CHiLL: 利用大型语言模型从临床笔记中进行零 - shot 定制可解释特征提取

PDF
TL;DR本研究提出使用大型语言模型来进行零样本特征提取并为医学性风险预测模型提供高层次的自然语言特征选取方法，通过自动化特征提取，不需要手动从原始电子病历中提取特征，提供与参考特征相媲美的性能，同时提高了模型的可解释性。
large language modelsnlpmedical domainrisk prediction toolslinear models
发现论文，激发创造
  • XAI4LLM。让机器学习模型和 LLM 合作，提升医疗领域的上下文学习

    通过结合医学领域知识，采用多层结构的提示方法实现零 / 少样本上下文学习，并探索用户与大型语言模型的两种交流方式对诊断准确性和风险因素的影响。结果表明，大型语言模型通过域知识和定制化沟通策略能够显著提高诊断流程的准确性。研究还强调了在大型语言模型应用中优化训练样本数量和交流方式以提高准确性并减少偏见的重要性。

    May, 2024

  • 基于 LLMs 的电子病历的小样本疾病预测：结合预测代理推理和关键代理指导的新方法

    使用大型语言模型，本研究探索将结构化的患者就诊数据（例如诊断、实验室和处方）转化为自然语言叙述的可行性，并提出了一种利用不同角色的语言模型代理（预测者代理和评论者代理）的新方法。结果表明，相比传统的监督学习方法，在基于电子健康记录的疾病预测中，使用该方法的大型语言模型能够实现相当不错的少样本性能，暗示其在健康相关应用中的潜力。

    Mar, 2024

  • 基于检索增强生成的大型语言模型在零样本疾病表型分类中的应用

    通过使用零射击的基于大型语言模型的方法，结合检索增强生成和 MapReduce 技术，我们在肺动脉高压领域展示了一种有效识别疾病的方法，该方法在诊断中明显优于医生逻辑规则（F1 分数为 0.62 比 0.75），从而有望增强罕见疾病群体的识别和推动临床研究以及关注空缺的发现。

    Dec, 2023

  • 使用结构化纵向电子健康记录数据激励大规模语言模型进行零样本临床预测

    针对结构化长期电子健康记录 (EHR) 数据与大型语言模型 (LLMs) 集成时的固有复杂性，本研究调查了像 GPT-4 这样的 LLMs 对 EHR 数据的适应性。特别关注其零样本能力，使其能够在并未明确训练的情况下进行预测。通过考虑特定的 EHR 特征 (如单位和参考范围)，采用与临床环境相一致的上下文学习策略，我们的寻求方法能够应对 EHR 数据的纵向、稀疏和知识注入的特性。通过对 MIMIC-IV 和 TJH 数据集进行综合实验，证明了我们精心设计的提示框架下，LLMs 在关键任务 (如死亡率、住院天数和 30 天再入院率) 的预测性能可以提高约 35％，在少样本情景中超越了机器学习模型。我们的研究强调了 LLMs 在提高临床决策能力方面的潜力，尤其是在没有标签数据的紧急医疗情况下，如新发疾病的爆发。可通过此 https URL 获得代码，以便能重现研究结果。

    Jan, 2024

  • LLM-Select：大型语言模型的特征选择

    通过实验结果表明，大型语言模型（LLMs）在无需查看训练数据的情况下，可准确选择预测特征，在各种查询机制下具备与数据科学标准工具相媲美的性能，这对于特征选择和数据收集至关重要。

    Jul, 2024

  • 利用 LLMs 从电子病历中检索证据：可能性与挑战

    使用大型语言模型（Flan-T5 XXL）从非结构化电子健康记录（EHR）数据中检索和总结与特定查询相关的论据，较传统信息检索方法更受放射科医生欢迎，但面临 LLMs 产生虚构证据的挑战。然而，模型的信心可能指示 LLMs 是否存在虚构，为解决此问题提供了潜在方法。

    Sep, 2023

  • 大型语言模型为少样本健康学习者

    该研究展示大型语言模型能够通过只有少量的微调，在医疗和健康领域中处理不易表达为文本的各种生理和行为时间序列数据，并对心脏信号分析、身体活动识别、代谢计算和压力报告估计等健康任务进行有意义的推理。

    May, 2023

  • 零射机临床试验患者匹配与 LLMs

    利用大型语言模型加速临床试验操作，设计了一个基于零 - shot 方法的系统来评估患者是否符合试验纳入标准，并通过优化数据和成本效率以及提高解释性来改进该方法。

    Feb, 2024

  • 大型语言模型可自动为少样本表格学习生成特征

    提出了一种新颖的上下文学习框架 FealtLLM，利用大型语言模型作为特征工程师，生成适合表格预测的优化输入数据集，在推断阶段使用生成的特征和简单的下游机器学习模型 (如线性回归) 来推断分类的可能性，从而实现高性能的小样本学习。FeatLLM 框架只使用简单的预测模型和推断时发现的特征，相较于现有的基于大型语言模型的方法，FeatLLM 可以消除每个样本都需要查询大型语言模型的需求和克服提示大小的限制，并且仅需要对大型语言模型的 API 进行访问。在多个来自不同领域的表格数据集上的实验证明，FeatLLM 生成高质量的规则，明显 (平均达到 10%) 优于 TabLLM 和 STUNT 等替代方法。

    Apr, 2024

  • LLMs 加速医疗信息提取的注释

    使用大型语言模型（LLMs）结合人类专家的方法，快速生成医疗文本注释的地面真实标签，从而减少人工注释负担并保持高准确性，为医疗健康领域的定制自然语言处理（NLP）解决方案提供了潜力。

    Dec, 2023