Feb, 2024

DAEDRA: 面向被动药物监测报告的预测结果的语言模型

PDF
TL;DR这篇论文详细介绍了 DAEDRA 的构思、设计、训练和评估，DAEDRA 是一个用于通过被动报告从广泛和多样的受众中检测监管相关结果（死亡率、急诊就医和住院率）的大语言模型 (LLM)。在分析高度专业化的语料库时，子领域特定 LLM 仍然是获得更好结果的可行选项。
large language modelsdaedraadverse event reportspassive reportingsubdomain-specific llms
发现论文，激发创造
  • 利用大型语言模型基于电子健康记录预测阿尔茨海默病的增强风险

    通过利用语言模型为风险预测增添强大的能力，结合传统监督学习方法和大语言模型的决策机制，本研究提出的创新流程通过实际的电子健康记录数据仓库的评估表明有效地提高了预测性能，为改善 ADRD 筛查和早期检测实践带来了希望，并对患者管理策略产生潜在影响，进而改善医疗保健。

    May, 2024

  • 基于新型大型语言模型的临床决策支持系统在 12 个临床专科中的药物安全发展和测试

    我们介绍了一种基于检索增强生成（RAG）- 大型语言模型（LLM）的临床决策支持系统（CDSS），用于安全药物处方。该模型通过提供与患者背景和机构指南相适应的相关处方错误警报来解决传统基于规则的 CDSS 的局限性。本研究评估了基于 LLM 的 CDSS 在识别各种医疗和外科病例中的药物错误方面的有效性，与人工专家小组进行对比。同时，研究还检验了临床医生对不同 CDSS 集成模式的偏好：初级药师、仅基于 LLM 的 CDSS 和两者的组合。

    Jan, 2024

  • DERA: 使用对话增强的解析代理来增强大型语言模型的填充

    本文提出了一种新的解决方案 - 对话式解决代理（DERA），用于提高较大语言模型（LLMs）在医疗保健等安全关键领域输出的准确性和完整性，通过与 GPT-4 的交互来迭代地提高输出，并在医疗交流摘要、护理计划生成和 MedQA 等临床焦点任务中表现出显著的性能改进。

    Mar, 2023

  • 律师 LLaMA 技术报告

    本文研究了如何在持续训练过程中注入领域知识以及如何设计正确的监督微调任务来帮助模型解决实际问题，在加入检索模块并提取相关文献的情况下，我们的模型可以更可靠地生成答案。

    May, 2023

  • LaMDA：面向对话应用的语言模型

    LaMDA 是一种专门用于对话的基于 Transformer 的神经语言模型，其具有高达 137B 的参数，并使用公共对话数据和 Web 文本预训练。它具有先进的优化技术，能够解决安全性和事实基础等关键挑战，以及能够在教育和内容推荐领域发挥积极作用。

    Jan, 2022

  • 大型语言模型蒸馏药物推荐模型

    利用大型语言模型（LLMs），本文提出了一种名为 LEADER 的新方法，通过创建适当的提示模板和特征级知识蒸馏技术，将现有的药物推荐方法转化为更加高效和精确的形式。

    Feb, 2024

  • 大型语言模型中的临床数据生成的两个方向：数据到标签和标签到数据

    通过利用大规模语言模型生成合成的临床数据，我们研究了其在检测阿尔茨海默病相关迹象和症状方面的潜力，证明了大规模语言模型能够提高系统性能并生成不泄露敏感信息的数据集。

    Dec, 2023

  • 使用语言模型预训练的医疗命名实体识别模型

    本文介绍了一种从非结构化电子医疗记录中提取结构化信息的方法，该方法通过自然语言处理技术和网络注释工具的组合应用，优化了使用少量训练数据训练的定制命名实体识别模型的性能，并展示了该技术与现有方法相比的优势。研究结果表明，在仅使用 50% 的训练数据的情况下，我们的方法训练的模型的 F1 得分可达到 0.734，而当前流行的方法训练的不带语言模型组件的 spaCy 模型的 F1 得分为 0.704。

    Oct, 2019

  • DRG-LLaMA：调整 LLaMA 模型以预测住院患者的诊断相关分组

    通过对临床笔记进行 fine-tuned，我们引入了 DRG-LLaMA 这一大型语言模型来改善 DRG 预测在美国住院付款系统中的分配过程，其相对于 ClinicalBERT 和 CAML 表现出了较高的精确度和 AUC，同时该模型在预测基本 DRGs 和并发症 / 重要并发症时也取得了相对较高的准确率。

    Sep, 2023

  • 从患者角度探讨检测德语不良药物反应的跨语言方法

    本文首次提出了一个针对德国患者提供的 Adverse Drug Reaction 侦测语料库，包含了德语患者论坛中 4169 个二进制标注文件，并呈现了这个社交媒体数据的课程和主题的不平衡性，通过使用 XLM-RoBERTa 在英语和德语患者论坛数据之前进行优化，最终实现了一个 37.52 的二元分类 F1 - 得分。

    Aug, 2022