Jan, 2024

EMBRE: 生物医学关系提取的实体感知掩码

PDF
TL;DR我们介绍了一种应用于生物医学关系提取的 Entity-aware Masking for Biomedical Relation Extraction (EMBRE) 方法，该方法将实体知识整合到深度神经网络中，通过预训练模型的实体屏蔽目标使模型能够学习更具体的知识和更强大的表示，并利用该模型来编码语言表示并预测关系和新颖性的逻辑回归，实验结果显示我们的方法可以提高实体对、关系和新颖性提取的性能。
information extraction techniquesnamed entity recognitionrelation extractionbiomedical relation extractionentity masking objective
发现论文，激发创造
  • 关系抽取在临床文档理解中的应用

    该文介绍了一种文本挖掘框架，利用 Named Entity Recognition 和 Relation Extraction 模型对医学文献和数字临床记录进行处理，取得优异的实验结果，并构建了一个生物医学知识图谱。系统使用 Spark NLP 库提供的生产级、可伸缩、硬件优化、可训练和可调整的 NLP 框架。

    Dec, 2021

  • 通过多粒度嵌入和增强标注进行多级生物医学命名实体识别

    本文提出了一种集成多种模型的混合方法，以解决生物医学实体识别中的局限性，并在 i2b2/2010 数据集上评估，得到了 90.11 的 F1 分数。

    Dec, 2023

  • 利用实体感知屏蔽策略提高低资源生物医学问答性能

    本文提出了一种称为生物医学实体感知蒙版 (BEM) 的简单方法，以帮助受限于特定领域及其 COVID-19 文献的预训练语言模型进行微调，从而提升其生物医学问答数据集的性能。实验证明，该方法与先进模型具有相同的性能。

    Feb, 2021

  • 用于文档级别关系抽取的遮蔽图像重建网络

    提出了一种基于 Masked Image Reconstruction 网络的文档级关系提取模型（DRE-MIR），通过模型推理来捕捉关系之间的相关性，并在三个公共数据集上取得了最先进的性能。

    Apr, 2022

  • BioRED：一份丰富的生物医学关系提取数据集

    本文提出了一个多实体类型和多关系对的文献级生物医学关系抽取数据集 BioRED，包括新发现和先前已知的信息，旨在评估现有状态下的自动化算法，为更准确、高效和稳健的生物医学关系系统的开发奠定基础。

    Apr, 2022

  • 大规模生物医学命名实体识别

    通过在 Apache Spark 之上重新实现 Bi-LSTM-CNN-Char 深度学习架构，我们提出了一个单可训练的命名实体识别（NER）模型，该模型在七个公共生物医学基准测试中获得了新的最优结果，而不使用像 BERT 这样的重​​型上下文嵌入。该模型在生产级别代码库中作为开源 Spark NLP 库的一部分免费提供，并且可以扩展以支持其他人类语言，而不需要更改代码。

    Nov, 2020

  • BioNLP-OST 2019 中基于语言学的关系抽取和神经网络结构的嵌套命名实体识别

    本篇论文介绍了我们参加 BioNLP Shared Tasks 2019 后在 Named Entity Recognition 和 Relation Extraction 方面的方法，我们的方法可以概括应用于不同语言的文本，包括英语和西班牙语，其中我们使用了语言特征，混合损失，多任务目标和令牌级合成策略以提高 Named Entity Recognition 的性能，使用基于字典的模糊和语义搜索来执行实体标准化， 最后，我们的 Relation Extraction 系统使用带语言特征的 Support Vector Machine，并在相关任务上表现出色。

    Oct, 2019

  • BioMNER：用于生物医学方法实体识别的数据集

    本研究提出了一个新的生物医学方法实体识别数据集，利用自动化的生物医学方法实体识别和信息检索系统来辅助人工注释。此外，我们全面探索了一系列传统和现代的面向开放领域的命名实体识别方法，包括针对我们数据集进行定制的最新大规模语言模型（LLMs）的使用。我们的实证研究发现，令人惊讶的是，语言模型的大参数数量阻碍了与生物医学方法相关的实体提取模式的有效吸收。显著地，结合条件随机场（CRF），利用体积适中的 ALBERT 模型（仅 11MB），取得了最先进的性能（SOTA）。

    Jun, 2024

  • 通过参考集增强的蒸馏自举方法实现生物医学命名实体识别（Biomedical Named Entity Recognition via Reference-Set Augmented Bootstrapping）

    本文提出了一种弱监督数据增强方法，用于提高命名实体识别在具有挑战性的领域中的表现，结果表明该方法显著提高了 NER 性能，同时讨论了影响该方法有效性的因素。

    Jun, 2019

  • 科学命名实体识别的分层 Transformer 模型

    使用 BERT 和 transformer 层的简单和有效的 Named Entity Recognition 方法在计算机科学和生物医学领域的三个基准数据集上优于当前最先进技术，无需外部资源或特定数据增强。

    Mar, 2022