Dec, 2023

BED：用于规范关系抽取的双编码器 - 解码器模型

PDF
TL;DR本研究提出了一种新的框架，Bi-Encoder-Decoder (BED)，用于解决规范化关系提取中的实体信息利用、新实体表示、性能提升等问题。实验结果表明，该方法在两个数据集上性能显著优于之前的最优方法，并能够良好处理新实体而无需重新训练。
canonical relation extractionencoder-decoder architectureentity informationnovel entitiesbi-encoder-decoder (bed)
发现论文，激发创造
  • 使用双编码器快速有效的生物医学实体链接

    本研究提出了一种基于 BERT 的双编码器模型，可一次处理文档中的多个关键词，解决了现有模型效率低的问题，在生物医学实体链接领域取得了与现有模型相当的准确性，并对其进行了改进，实现了端到端生物医学实体链接，表现出更好的性能.

    Mar, 2021

  • 联合实体和关系提取的编码器 - 解码器架构有效建模

    本文提出了两种使用编码器 - 解码器结构的方法来共同提取关系元组和实体，其中第一种方法采用关系元组表示方案，使解码器能够像机器翻译模型一样逐个单词生成，并仍然找到具有不同长度和重叠实体的所有元组，而第二种方法采用指针网络解码方法，每个时间步长生成整个元组。实验结果表明，本文提出的方法优于先前的工作，并实现了显着更高的 F1 分数。

    Nov, 2019

  • 联合实体和关系抽取的有效级联双解码器模型

    本文提出了一种有效的两级解码器方法来从文本中提取重叠的关系三元组，该方法通过具有可训练嵌入的关系相关实体解码器和特定于文本语义的关系解码器来解决重叠三元组问题，并在两个公共数据集上取得了优异的性能。

    Jun, 2021

  • 在知识库学习和推理中嵌入实体和关系

    通过基于神经嵌入的方法，学习知识库中实体和关系的表示，并将大多数现有模型统一到一个学习框架下，比较各种嵌入模型在链接预测任务上的表现，其中一个简单的双线性公式在任务中取得新的最优结果；此外，利用此模型可以挖掘逻辑规则，其中包含组合推理，并且此方法在 Horn 规则挖掘方面表现优秀。

    Dec, 2014

  • 为实体检索学习密集表示

    使用双编码器模型，在相同的密集向量空间中对实体和提及进行编码，并通过近似最近邻搜索检索候选实体，从而实现实体链接。通过使用维基百科中的锚文本链接训练双编码器，该方法优于离散别名表和 BM25 基线，并且与标准 TACKBP-2010 数据集中最佳结果相当，还可以快速检索候选者，并可以很好地推广到从 Wikinews 推导出的新数据集。在建模方面，我们演示了无监督的负采矿算法在这一任务中的重要作用。

    Sep, 2019

  • 基于双编码器的检测器用于识别未知分布

    本文介绍了一种新的方法，利用双编码器检测器，并通过比较不同的特征提取器在自然语言处理（NLP）中的不同外域检测方法进行全面研究。实验结果表明，该方法在所有数据集上都优于其他方法，具有很大的潜力应用于 NLP 领域的 OOD 检测中。

    Jun, 2023

  • 三重编码器：共同激活的表示共同连接

    通过基于搜索的对话模型和曲线对比学习，引入三重编码器来有效地计算独立编码的话语的混合分布，通过一种新颖的 Hebbian 启发的共现学习目标，实现了高效计算，而无需重新编码，从而实现了更好的零样例泛化。

    Feb, 2024

  • 使用神经嵌入模型学习多关系语义

    本文提出了一种统一的模型框架，用于建模多关系表示、评分和学习，并在此框架下对几种最近的多关系嵌入模型进行了实证研究。研究了基于线性和双线性变换的关系算子的不同选择，以及通过整合额外文本资源上的非监督向量进行实体表示的效果。结果表明了几个有趣的发现，实现了在 Freebase 上进行评估的热门知识库完成任务的最新性能的简单嵌入模型的设计。

    Nov, 2014

  • 关系三元组抽取的简单而有效的双向框架

    本文提出了一种基于双向抽取框架的标记关系三元组抽取方法，该方法在联合提取主体和关系的同时从两个方向抽取实体对，并通过共享编码器组件实现特征互补和提升，使用双仿射模型为每个实体对分配所有可能的关系，在多个基准数据集上验证其性能和有效性，此外，实验证明，所提出的双向抽取框架和共享感知学习机制具有很好的适应性，可用于提高其他标记基于方法的性能。

    Dec, 2021

  • 对比学习优化采用双编码器进行命名实体识别

    我们提出了一种基于双编码器框架的命名实体识别（NER）方法，该方法应用对比学习将候选文本片段和实体类型映射到相同的向量表示空间。该方法将 NER 视为一种表示学习问题，以最大化实体提及及其类型的向量表示之间的相似性，从而易于处理嵌套和平展式 NER，并能更好地利用噪声自我监督信号。我们介绍了一种新颖的动态阈值损失来解决命名实体识别这一双编码器公式的主要挑战，即将非实体范围与实体提及分离开来。实验表明，我们的方法在监督和远程监督设置下都表现良好，无论是在嵌套还是平展式 NER 情景下，在通用领域（例如 ACE2004、ACE2005）和高价值垂直领域（例如生物医学领域的 GENIA、NCBI、BC5CDR、JNLPBA）的标准数据集上均创造了新的技术水平。我们在 http URL 上发布了代码。

    Aug, 2022