Aug, 2019

中文医学文本中 BERT 联合实体和关系抽取的微调

PDF
TL;DR该研究提出了一种基于 BERT 语言模型和聚焦注意力机制的联合实体和关系抽取模型，通过动态范围注意机制，提高了共享参数层的特征表示能力，实验结果表明，该方法在冠状动脉造影文本上的名词实体识别和关系分类任务的 F1 得分分别达到 96.89% 和 88.51%，优于现有技术水平。
medical textentity extractionrelation extractionbert language modelfocused attention model
发现论文，激发创造
  • 基于 BERT 的多头选择联合实体关系抽取

    本文利用 BERT 作为特征提取层并引入语义增强的预训练任务，并使用大规模数据集进行实体识别预训练，提出软标签嵌入以有效传递实体识别和关系提取之间的信息，从而增强多头选择模型的信息提取能力，最终在测试集上获得了 0.892 的 F1 分数。

    Aug, 2019

  • 基于相似度的增强记忆联合实体和关系抽取

    本文介绍了一种多任务学习框架，其中任务之间存在双向记忆依赖，并能更准确地进行文档级别的实体和关系抽取，实证研究表明该方法优于现有方法，并在 BioCreative V CDR 语料库上取得了最新成果。

    Jul, 2023

  • 关系抽取在临床文档理解中的应用

    该文介绍了一种文本挖掘框架，利用 Named Entity Recognition 和 Relation Extraction 模型对医学文献和数字临床记录进行处理，取得优异的实验结果，并构建了一个生物医学知识图谱。系统使用 Spark NLP 库提供的生产级、可伸缩、硬件优化、可训练和可调整的 NLP 框架。

    Dec, 2021

  • 基于联合学习的生物医学文献因果关系抽取

    本文提出了一种基于联合学习模型的生物医学因果关系提取方法，将实体关系提取和实体功能检测结合起来，以提高因果关系提取的性能，并且在模型训练阶段，为不同的功能类型分配不同的权重，实验结果表明，与其他系统相比，我们的联合学习系统在 BEL 语句提取中取得了最先进的表现。

    Aug, 2022

  • 面向中文临床文本的医疗信息标注和提取统一框架

    该研究提供了一个医学信息提取的工程框架，其中包括医疗实体识别、关系提取和属性提取。通过深度学习技术和注释语料库，该系统可以高准确率地提取医学实体、关系和属性。

    Mar, 2022

  • 基于 Transformer 预训练的跨度联合实体和关系抽取

    本文介绍了一种轻量级的基于注意力机制的模型 SpERT，通过对 BERT 嵌入进行实体识别和过滤，以及基于标记的上下文表示进行关系分类，结合单 BERT 传递的高效负样例抽取方法，在多个数据集上取得了高于先前工作最高达 2.6% F1-score 的性能表现。

    Sep, 2019

  • 使用深度双仿射注意力的端到端神经关系抽取

    本文提出一个神经网络模型，用于联合抽取命名实体和它们之间的关系，无需手动设计特征。该模型采用深度双仿射关注层扩展了 BiLSTM-CRF 实体识别模型，以建模关系分类中潜在特征的二阶交互。在 benchmark 数据集 CoNLL04 上进行实验，结果显示该模型的表现优于之前的模型，创造了新的最好表现。

    Dec, 2018

  • 联合实体识别和关系抽取作为多头选择问题

    该研究提出了一种基于神经网络的联合模型，能够同时执行实体识别和关系抽取任务，而无需人工提取特征或使用任何外部工具，并在包括新闻、生物医学和房地产等不同语境下进行了实验，而且表现优异。

    Apr, 2018

  • 面向中文文献文本的实体关系分类的结构正则化神经网络

    本文提出了一个用于中文文学文本的关系分类任务并构建了一个新的数据集，通过 SR-BRCNN 模型基于结构规则的依存树上提取的最短依赖路径来识别实体之间的关系，实验结果表明该方法 F1 得分提高了 10.3，且在中文文学文本上优于当前的最先进方法。

    Mar, 2018

  • 边缘计算中维吾尔医学知识的联合提取

    利用边缘计算部署基于深度学习模型的医疗知识提取方法，通过在边缘设备上实现本地化实体和关系提取，有效保护了卫生保健服务的隐私。提出了一种名为 CoEx-Bert 的联合提取模型，利用边缘计算中两个模型之间的参数共享来共同提取实体和关系。通过考虑上下文关系，有效解决了从非结构化维吾尔医学文本中提取知识时的实体重叠问题。实验结果表明，CoEx-Bert 在维吾尔传统医学文献数据集中的准确度、召回率和 F1 得分分别达到 90.65％、92.45％和 91.54％，相比基准模型分别提高了 6.45％、9.45％和 7.95％。

    Jan, 2024