ACLMay, 2021

使用未标记的数据进行视图蒸馏以从用户生成的数据中提取药物不良反应

PDF
TL;DR本研究开发了一种基于多层 transformers 的算法，用于在社交媒体数据中识别 Adverse Drug Reactions（ADR）。实验结果表明，本算法显著优于采用预训练领域特定数据的基于 transformers 的模型。
adverse drug reactionsmulti-layer transformerssocial media datacontextual word embeddingsclassifier
发现论文，激发创造
  • 基于文本和药物嵌入的多模态模型用于不良药物反应分类

    本文介绍了一种基于多模态模型和 BERT 的方法，用于对推文进行分类以检测潜在的药物效应和反应。实验证明，神经网络得到的分子信息对 ADE 分类比传统分子描述符更有益。

    Oct, 2022

  • 通过领域特定预处理和 BERT 组合检测 Twitter 上的不良药物反应

    该论文旨在开发一个基于深度学习模型的方法，对包含药物提及的 Twitter 帖子中的 ADR 进行分类，以实现药品监管自动化，支持药品监管机构，制药业和普通公众确保每日处方药的安全，最终我们的模型在 F1 值（0.6681）和召回率（0.7700）方面实现了最优表现。

    May, 2020

  • 规模化从非结构化媒介中挖掘药物不良反应

    本文介绍一种基于自然语言处理技术的解决方案，能够在社交媒体帖子、顾客支持电话记录或医疗保健提供商与制药销售代表会议的多种非结构化对话中检测药品不良反应，并提供了三种方法来对其进行提取，分别是新的命名实体识别模型、两个新的关系抽取模型和新的文本分类模型。该解决方案已实现为一个统一的 NLP 管道，并在 Apache Spark 顶部构建了一个生产级库，使其能够在通用集群上处理数百万批处理或流记录。

    Jan, 2022

  • KESDT：知识增强的浅层和深度 Transformer 用于检测药物不良反应

    通过在转换器模型中采用领域关键词的浅层融合和同义词集合的深层融合，并使用聚焦损失函数来训练模型，我们提出了知识增强的浅层和深层转换器 (KESDT) 模型用于不良药物反应 (ADR) 的检测，并在 TwiMed、Twitter 和 CADEC 三个公共数据集上进行广泛实验。我们的 KESDT 模型在 F1 值上优于现有技术水平，相对改进幅度分别为 4.87%、47.83% 和 5.73%，证明了我们提出的 KESDT 的有效性。

    Aug, 2023

  • 基于 Transformer 的构架在不良药物事件提取中的广泛评价

    本研究对 19 种基于 Transformer 的模型在非正式文本中进行 ADE 抽取进行了评估和分析，并使用 SHAP 等技术探究了模型分类、预训练领域和大小、以及训练方式等因素对模型性能的影响，为进一步提高数字药物监管工作提供了实证分析。

    Jun, 2023

  • 从患者角度探讨检测德语不良药物反应的跨语言方法

    本文首次提出了一个针对德国患者提供的 Adverse Drug Reaction 侦测语料库，包含了德语患者论坛中 4169 个二进制标注文件，并呈现了这个社交媒体数据的课程和主题的不平衡性，通过使用 XLM-RoBERTa 在英语和德语患者论坛数据之前进行优化，最终实现了一个 37.52 的二元分类 F1 - 得分。

    Aug, 2022

  • 社交媒体帖子中的多任务药品监测挖掘

    提出了一种多任务神经网络框架，通过在社交媒体帖子中学习与 ADR 监测相关的多个任务和不同级别的监督来有效监测 ADR 的各个方面。该框架能正确分类 ADR 帖子并从中准确提取 ADR 提及，并能进一步从给定的社交媒体帖子中理解药物使用的原因。在 Twitter 真实数据集上的评估结果表明，该框架在各个任务上均优于现有的最先进的备选方案。

    Jan, 2018

  • 通过 SpanBERT 在不同文本类型上改进不良药物事件提取

    本文提出了应用 SpanBERT 架构通过 NLP 监控社交媒体、博客和健康论坛上的不良药物事件反应（Adverse Drug Events），并在两个数据集上验证了它在多词汇语境中的优越性。

    May, 2021

  • ADRNet: 一个结合临床和非临床数据的广义协同过滤框架，用于不良药物反应预测

    使用 ADRNet 模型，结合临床数据和非临床数据，对药物的不良药物反应进行预测和评估，并通过两个公开的临床数据集和两个非临床数据集进行了详细实验验证。

    Aug, 2023

  • 使用大型语言模型进行生物医学知识提取的精馏：以药物不良反应为例的案例研究

    该论文研究了如何使用基于自我监督学习的蒸馏模型，以大幅提高大型语言模型在生物医学知识整理和提取方面的效率和准确性。在药物不良事件提取等主要医学知识提取任务上，这种方法大大超越了标准模型，并具有成本效益和访问模型内部结构等优点。

    Jul, 2023