AAAIDec, 2021

BERTMap: 一种基于 BERT 的本体对齐系统

PDF
TL;DR本文提出了 BERTMap，它是一种可以支持无监督和半监督设置的本体映射系统，它使用 fine-tuning 的 BERT 语境嵌入模型来预测映射，并通过利用本体结构和逻辑来完善映射，本文通过对生物医学本体上的三个对齐任务的评估表明，BERTMap 通常比领先的 OM 系统 LogMap 和 AML 表现更好。
ontology alignmentmachine learningbertmapbiomedical ontologiesunsupervised and semi-supervised settings
发现论文，激发创造
  • Agent-OM：利用大型语言模型进行本体匹配

    本文介绍了一种基于代理和大型语言模型的本体匹配系统设计范例，并通过实证评估证明其在简单、复杂和少样本本体匹配任务上的性能显著优于现有系统。

    Dec, 2023

  • Truveta Mapper：零射影本体对齐框架

    本文提出了一种新的视角，将无监督本体匹配（OM）或本体对齐（OA）视为翻译任务，利用多任务序列到序列 Transformer 模型在多个本体之间执行对齐，在不需要显式交叉本体手动标记数据的情况下，隐式学习不同本体之间的关系，提出的解决方案优于现有解决方案，使 OM 任务更加高效而简单。

    Jan, 2023

  • 基于上下文结构的自监督学习用于本体匹配

    本研究介绍了一种名为 LaKERMap 的新型自监督学习本体匹配框架，它利用转换器将概念的上下文和结构信息融入其中，旨在捕捉包括本地和全局交互在内的多种结构上下文。通过使用 Bio-ML 数据集和任务，我们的创新方法显示 LaKERMap 在对齐质量和推理时间方面优于最先进的系统。

    Oct, 2023

  • 为等同性和包含关系本体匹配提供友好的生物医学数据集的机器学习

    为解决 Ontology Matching 中评价体系不全的问题，该研究提出了五个新的医学本体匹配任务，并且提出了一个全面的评价框架，对机器学习和非机器学习的匹配系统进行了评估。该研究的资源已经公开发布在 OAEI 2022 的 BioML 赛道中。

    May, 2022

  • LLMs4OM：基于大语言模型的本体匹配

    LLMs4OM 框架通过零样本提示技术，利用大型语言模型在本体匹配任务中评估大型语言模型的效果，并在不同本体表示（概念、概念父类、概念子类）之间实现检索和匹配两个模块，全面评估了 20 个不同领域的本体匹配数据集，结果表明，在复杂匹配场景下，LLMs 在 LLMs4OM 框架下的性能可以与甚至超过传统的本体匹配系统，凸显了 LLMs 在本体匹配领域的潜力。

    Apr, 2024

  • 上下位关系预测的语境语义嵌入

    本文介绍了一种基于 Bert 语言模型的子类预测方法 BERTSubs，能够有效地执行包括存在限制在内的多种子类预测任务，具有优于已有方法的性能。

    Feb, 2022

  • 本体增强的索赔检测

    我们提出了一个基于本体增强模型的句子级主张检测方法，通过将来自知识库的本体嵌入与 BERT 句子嵌入相融合，对 ClaimBuster 和 NewsClaims 数据集进行主张检测。我们的本体增强方法在这些小型非均衡数据集上展示出了最佳结果，相比其他统计和神经机器学习模型。实验表明，添加领域特定特征（训练词嵌入或知识图谱元数据）可以改善传统的机器学习方法。此外，以本体嵌入的形式添加领域知识有助于避免在神经网络模型中遇到的偏见，例如纯 BERT 模型在我们的小语料库中对较大类别的偏倚。

    Feb, 2024

  • 医学实体表示的自校准预训练

    本研究提出了一种自我对齐的预训练模型 SapBERT，以处理医学名词实体链接（MEL）等实体级任务，利用 UMLS 等生物医学本体学的庞大集合，实现了新的最优结果，并证明其相对于 BioBERT 和 PubMedBERT 等先前的特定领域的 MLM 的有效性和鲁棒性。

    Oct, 2020

  • UmlsBERT: 使用统一医学语言系统词表增强上下文嵌入的临床领域知识

    UmlsBERT is a contextual embedding model for biomedical natural language processing that integrates domain knowledge during pre-training via a novel knowledge augmentation strategy, outperforming existing models on named-entity recognition and clinical natural language inference tasks.

    Oct, 2020

  • 音频标记的本体感知学习和评估

    本研究提出了一种新的音频标记任务评估度量 - 本体论感知平均准确率 (OmAP), 该评估度量利用 AudioSet 本体信息，在评估中重新权重模型预测的假阳性事件，提供了更多在本体图中不同粗粒度级别下模型性能的见解，并且比传统的平均准确率 (mAP) 更符合人类感知。此外，本研究还提出了一种新的损失函数 (OBCE), 通过重新加权基于本体距离的二元交叉熵损失 (BCE) 来验证利用本体信息的重要性，实验证明 OBCE 在 AudioSet 标记任务中可以提高 mAP 和 OmAP 的表现。

    Nov, 2022