基于文本和药物嵌入的多模态模型用于不良药物反应分类

Oct, 2022

基于文本和药物嵌入的多模态模型用于不良药物反应分类

Multimodal Model with Text and Drug Embeddings for Adverse Drug Reaction Classification

Andrey Sakhovskiy, Elena Tutubalina

TL;DR本文介绍了一种基于多模态模型和 BERT 的方法，用于对推文进行分类以检测潜在的药物效应和反应。实验证明，神经网络得到的分子信息对 ADE 分类比传统分子描述符更有益。

Abstract

In this paper, we focus on the classification of tweets as sources of potential signals for adverse drug effects (ADEs) or drug reactions (ADRs). Following the intuition that text and drug structure representations are complementary, we introduce a multimodal model with two components.

tweets classification multimodal model bert-based models molecular property prediction social media mining for health research and applications

发现论文，激发创造

通过领域特定预处理和 BERT 组合检测 Twitter 上的不良药物反应

该论文旨在开发一个基于深度学习模型的方法，对包含药物提及的 Twitter 帖子中的 ADR 进行分类，以实现药品监管自动化，支持药品监管机构，制药业和普通公众确保每日处方药的安全，最终我们的模型在 F1 值（0.6681）和召回率（0.7700）方面实现了最优表现。

May, 2020

规模化从非结构化媒介中挖掘药物不良反应

本文介绍一种基于自然语言处理技术的解决方案，能够在社交媒体帖子、顾客支持电话记录或医疗保健提供商与制药销售代表会议的多种非结构化对话中检测药品不良反应，并提供了三种方法来对其进行提取，分别是新的命名实体识别模型、两个新的关系抽取模型和新的文本分类模型。该解决方案已实现为一个统一的 NLP 管道，并在 Apache Spark 顶部构建了一个生产级库，使其能够在通用集群上处理数百万批处理或流记录。

Jan, 2022

通过 SpanBERT 在不同文本类型上改进不良药物事件提取

本文提出了应用 SpanBERT 架构通过 NLP 监控社交媒体、博客和健康论坛上的不良药物事件反应（Adverse Drug Events），并在两个数据集上验证了它在多词汇语境中的优越性。

May, 2021

社交媒体帖子中的多任务药品监测挖掘

提出了一种多任务神经网络框架，通过在社交媒体帖子中学习与 ADR 监测相关的多个任务和不同级别的监督来有效监测 ADR 的各个方面。该框架能正确分类 ADR 帖子并从中准确提取 ADR 提及，并能进一步从给定的社交媒体帖子中理解药物使用的原因。在 Twitter 真实数据集上的评估结果表明，该框架在各个任务上均优于现有的最先进的备选方案。

Jan, 2018

基于知识增强的概念感知注意力图神经网络用于不良药物反应检测

使用异质文本图形，借助统一医学语言系统中的医学知识，提出了一种基于概念感知注意机制的自然语言处理方法，结合预训练语言模型的上下文化嵌入和卷积图神经网络进行特征表示和关系学习，能有效地自动从文本中检测不良药物事件，表现和最近进展竞争性相当。

Jan, 2023

使用未标记的数据进行视图蒸馏以从用户生成的数据中提取药物不良反应

本研究开发了一种基于多层 transformers 的算法，用于在社交媒体数据中识别 Adverse Drug Reactions（ADR）。实验结果表明，本算法显著优于采用预训练领域特定数据的基于 transformers 的模型。

May, 2021

从患者角度探讨检测德语不良药物反应的跨语言方法

本文首次提出了一个针对德国患者提供的 Adverse Drug Reaction 侦测语料库，包含了德语患者论坛中 4169 个二进制标注文件，并呈现了这个社交媒体数据的课程和主题的不平衡性，通过使用 XLM-RoBERTa 在英语和德语患者论坛数据之前进行优化，最终实现了一个 37.52 的二元分类 F1 - 得分。

Aug, 2022

基于 Transformer 的构架在不良药物事件提取中的广泛评价

本研究对 19 种基于 Transformer 的模型在非正式文本中进行 ADE 抽取进行了评估和分析，并使用 SHAP 等技术探究了模型分类、预训练领域和大小、以及训练方式等因素对模型性能的影响，为进一步提高数字药物监管工作提供了实证分析。

Jun, 2023

一种针对生物医学文本的关注序列模型用于不良药物反应提取

本文在生物医学研究中探讨针对药物引起的不良反应提出了一种通过使用自我关注机制以及机器阅读文献的灵感创作的基于问题回答 (Question-Answering) 的模型，能够将这些情况分类提供给医护人员减少药物致死和患病率，并可视化和理解网络如何利用局部和更广泛的上下文进行分类。

Jan, 2018

利用多模态数据集增强不良药物事件的检测：语料库构建与模型开发

通过将 ADE 相关的文本信息与视觉辅助工具相结合，我们呈现了一个多模态不良药物事件（MMADE）检测数据集，并引入了一个框架，利用 LLMs 和 VLMs 的能力进行 ADE 检测，生成对描绘 ADE 的医学图像的详细描述，帮助医疗专业人员在视觉上识别不良事件，从而提高总体性能。该方法有望促进患者安全、ADE 意识和医疗可及性，为个性化医疗的进一步探索铺平了道路。

May, 2024