Aug, 2023

KESDT：知识增强的浅层和深度 Transformer 用于检测药物不良反应

PDF
TL;DR通过在转换器模型中采用领域关键词的浅层融合和同义词集合的深层融合，并使用聚焦损失函数来训练模型，我们提出了知识增强的浅层和深层转换器 (KESDT) 模型用于不良药物反应 (ADR) 的检测，并在 TwiMed、Twitter 和 CADEC 三个公共数据集上进行广泛实验。我们的 KESDT 模型在 F1 值上优于现有技术水平，相对改进幅度分别为 4.87%、47.83% 和 5.73%，证明了我们提出的 KESDT 的有效性。
发现论文，激发创造
  • 通过领域特定预处理和 BERT 组合检测 Twitter 上的不良药物反应

    该论文旨在开发一个基于深度学习模型的方法，对包含药物提及的 Twitter 帖子中的 ADR 进行分类，以实现药品监管自动化，支持药品监管机构，制药业和普通公众确保每日处方药的安全，最终我们的模型在 F1 值（0.6681）和召回率（0.7700）方面实现了最优表现。

    May, 2020

  • 基于 Transformer 的构架在不良药物事件提取中的广泛评价

    本研究对 19 种基于 Transformer 的模型在非正式文本中进行 ADE 抽取进行了评估和分析，并使用 SHAP 等技术探究了模型分类、预训练领域和大小、以及训练方式等因素对模型性能的影响，为进一步提高数字药物监管工作提供了实证分析。

    Jun, 2023

  • 基于文本和药物嵌入的多模态模型用于不良药物反应分类

    本文介绍了一种基于多模态模型和 BERT 的方法，用于对推文进行分类以检测潜在的药物效应和反应。实验证明，神经网络得到的分子信息对 ADE 分类比传统分子描述符更有益。

    Oct, 2022

  • 使用未标记的数据进行视图蒸馏以从用户生成的数据中提取药物不良反应

    本研究开发了一种基于多层 transformers 的算法，用于在社交媒体数据中识别 Adverse Drug Reactions（ADR）。实验结果表明，本算法显著优于采用预训练领域特定数据的基于 transformers 的模型。

    May, 2021

  • 规模化从非结构化媒介中挖掘药物不良反应

    本文介绍一种基于自然语言处理技术的解决方案，能够在社交媒体帖子、顾客支持电话记录或医疗保健提供商与制药销售代表会议的多种非结构化对话中检测药品不良反应，并提供了三种方法来对其进行提取，分别是新的命名实体识别模型、两个新的关系抽取模型和新的文本分类模型。该解决方案已实现为一个统一的 NLP 管道，并在 Apache Spark 顶部构建了一个生产级库，使其能够在通用集群上处理数百万批处理或流记录。

    Jan, 2022

  • 基于知识增强的概念感知注意力图神经网络用于不良药物反应检测

    使用异质文本图形，借助统一医学语言系统中的医学知识，提出了一种基于概念感知注意机制的自然语言处理方法，结合预训练语言模型的上下文化嵌入和卷积图神经网络进行特征表示和关系学习，能有效地自动从文本中检测不良药物事件，表现和最近进展竞争性相当。

    Jan, 2023

  • MultiADE: 药物不良反应提取的多领域基准

    在本研究中，通过建立一个名为 MultiADE 的多领域对比基准，我们探索了在不同文本类型中有效地提取不良药物事件的机器学习模型的泛化能力，结果表明训练模型的泛化性还远未达到完美，而进行域适应的方法仍需进一步研究。

    May, 2024

  • 社交媒体帖子中的多任务药品监测挖掘

    提出了一种多任务神经网络框架，通过在社交媒体帖子中学习与 ADR 监测相关的多个任务和不同级别的监督来有效监测 ADR 的各个方面。该框架能正确分类 ADR 帖子并从中准确提取 ADR 提及，并能进一步从给定的社交媒体帖子中理解药物使用的原因。在 Twitter 真实数据集上的评估结果表明，该框架在各个任务上均优于现有的最先进的备选方案。

    Jan, 2018

  • DS4DH 在＃SMM4H 2023 中：使用句向量和倒数排名融合进行零射击药物不良事件规范化

    通过 BERT 精调实体识别和句子转换器以及互惠排序融合，本研究提出的系统在社交媒体文本挖掘领域中，对不良药物事件标准化取得了高效性能表现，实现了 44.9% 的准确率、40.5% 的召回率和 42.6% 的 F1 分数，在共享任务 5 中表现优于中位数 10% 且超过了其他参与者的性能。

    Aug, 2023

  • 通过 SpanBERT 在不同文本类型上改进不良药物事件提取

    本文提出了应用 SpanBERT 架构通过 NLP 监控社交媒体、博客和健康论坛上的不良药物事件反应（Adverse Drug Events），并在两个数据集上验证了它在多词汇语境中的优越性。

    May, 2021