Aug, 2023

KETM：一种知识增强的文本匹配方法

PDF
TL;DR文本匹配是将两段文本进行匹配并确定它们之间的关系的任务，本文提出了一种名为知识增强文本匹配模型（KETM）的新模型，通过从外部知识源中丰富上下文表示来增强模型的理解和推理能力。实验证实了我们的模型在四个数据集上表现良好，并且与不添加外部知识的基础模型相比，我们的方法的性能得到了提高。
text matchingknowledge enhanced text matchingcommon-sense knowledgeexternal knowledge sourcesneural network
发现论文，激发创造
  • 对短文本匹配模型进行对比学习增强的知识加强模型

    本文提出了一个结合对比学习和外部知识的短文本匹配模型，使用生成模型构建补全句子，利用对比学习方法获得更加语义化的编码，使用关键词与知识库相结合构建知识图谱，通过的实验证明了该模型在两个中文文本匹配数据集上达到了最佳表现。

    Apr, 2023

  • 知识增强的文本匹配混合神经网络

    采用先验知识辅助在长文本中进行语义匹配，提出了一种知识增强混合神经网络（KEHNN），该模型通过知识门将先验知识融入单词表示中，并建立了三个匹配通道，最终实现对句子的局部和全局语境进行匹配的高检索性能。

    Nov, 2016

  • KERMIT -- 一种基于 Transformer 的知识图谱匹配方法

    利用预训练的句子转换器生成匹配候选项，接着使用优化的双重编码器来生成最佳匹配项以便自动匹配知识图谱和本体论。在多个数据集上进行了验证并展示了可行性和卓越的结果。

    Apr, 2022

  • 使用点击流数据增强背景信息的短文本匹配

    该研究提出了一种短文本匹配框架，使用自我注意机制引入外部知识以增强文本的上下文表示，实验证明该框架的性能优于现有的短文本匹配模型。

    Mar, 2022

  • 文本对话情感检测的知识增强 Transformer

    本文提出了一种知识增强型 Transformer (KET) 模型，结合分层自注意力机制和上下文感知情感图注意力机制，成功解决了分析对话中情绪所面临的常识和上下文理解问题，实验结果表明 KET 模型在情感检测方面表现良好，F1-score 明显高于当前最先进的模型。

    Sep, 2019

  • 文本语义匹配：以分离关键词和意图为特色的分治方法

    本文提出了一种简单而有效的文本语义匹配训练策略，将关键词从意图中解离开来，可以与预训练语言模型 PLM 轻松结合，而且在三个基准测试中与各种 PLMs 相比具有稳定的性能提升。

    Mar, 2022

  • 利用先验知识指导 BERT 在语义文本匹配任务中的注意力

    通过将先前的知识直接注入到 BERT 的注意力机制中，我们提出了一种简单而有效的方法来提高其在语义文本匹配任务中的性能，并在数据稀缺时表现最为显著。

    Feb, 2021

  • 基于知识图谱和改进注意力机制的文本分类

    为了解决文本中的语义模糊问题，我们提出了一个模型，创新地将知识图谱与改进的注意机制结合起来。该模型在字符和词级别上运作，通过集成概念来加深对文本的理解。我们首先采用信息增益选择重要词，然后采用编码器 - 解码器框架对文本及相关概念进行编码。本地注意机制调整每个概念的权重，在分类过程中减少不相关或噪声概念的影响。我们改进了本地自注意机制中注意分数的计算公式，确保文本中不同频率出现的词语获得更高的注意分数。最后，该模型采用了双向门控循环单元（Bi-GRU），从文本中提取特征以提高分类准确性。该模型在 AGNews、Ohsumed 和 TagMyNews 等数据集上达到了 75.1%、58.7% 和 68.5% 的准确率，展示了其在分类任务中的有效性。

    Jan, 2024

  • KEML: 基于知识增强的元学习框架用于词汇关系分类

    提出了基于知识增强的元学习（KEML）框架，其中引入的 LKB-BERT 模型利用远程标注注入丰富的词汇知识，定义了概率分布的辅助任务以增强模型识别不同类型词汇关系的能力，并通过元学习和监督学习相结合来训练神经词汇关系分类器，实验证明 KEML 胜过现有的最先进方法。

    Feb, 2020

  • 选择与增强：增强型密集检索知识图增强

    使用多任务框架，将文本描述与知识图谱实体相关联，以改进知识图谱的性能，并通过检索模型选择富有信息或高度相关的文本描述来增强实体。实验结果显示，与传统的卷积神经网络相比，使用文本增强的知识图谱方法在链接预测中的 Mean Reciprocal Rank (MRR) 和 Hits@10 分别提高了 5.5% 和 3.5%。

    Jul, 2023