Mar, 2022

增强的时间知识嵌入与语境化语言表示

PDF
TL;DR提出了一种增强的在上下文化语言表示下的时间知识嵌入模型 （ECOLA），它使用 tKG 四元组作为隐式测量来暂时对齐文本数据和时光演变的实体表示，并使用新的知识文本预测任务将文本信息注入时间知识嵌入。实验结果显示，ECOLA 在时间知识图嵌入任务中优于现有的 tKG 嵌入模型。
temporal knowledgetextual knowledgetkg embeddingecolaknowledge-text prediction
发现论文，激发创造
  • CoLAKE: 上下文化语言与知识嵌入

    本文提出的 CoLAKE 是一种基于预训练语言模型的的语言和知识情境化嵌入方法，可以提取一个实体的知识上下文并将其整合到一个统一的数据结构中，在知识驱动的任务、知识探测任务和语言理解任务中表现出优良性能。

    Oct, 2020

  • 利用预训练语言模型预测文本增强时序知识图中的时间间隔

    我们提出了一种名为 TEMT 的新框架，利用预训练语言模型（PLMs）来增强文本的时间性知识图谱完成。TEMT 利用存储在 PLM 参数中的知识，能够产生丰富的事实语义表示，并且对以前未见过的实体进行推广。TEMT 将 KG 中的文本和时间信息分别处理，并将它们融合以得到事实的可信度得分。与以前的方法不同，TEMT 有效捕获不同时间点之间的依赖关系，并能对未见实体进行预测。实验结果表明，TEMT 与现有技术相媲美。

    Sep, 2023

  • 利用箱型嵌入完成时间知识图谱

    本文提出了一种基于盒式嵌入模型 BoxE 并扩展到时间知识图谱的盒式嵌入模型 BoxTE，BoxTE 在时间设置下表现出完全的表达能力和强大的归纳能力，并在多个 TKGC 基准测试中取得了最先进的结果。

    Sep, 2021

  • CokeBERT: 基于上下文知识选择和嵌入的增强预训练语言模型

    本文提出了一种名为 Coke 的新型框架，它可以动态地选择上下文知识和嵌入知识上下文，以用于 PLMs，该框架可避免无法匹配输入文本的冗余和模糊知识的影响，实验结果表明，Coke 比各种基线模型在典型的知识驱动 NLP 任务上表现更好，并且能以更可解释的形式描述文本相关知识的语义。

    Sep, 2020

  • 基于结构增强的文本表示学习用于高效的知识图谱补全

    本研究旨在整合知识图谱的图嵌入和文本编码技术，以提高自动完成知识图谱的性能，实现更精确的链接预测和结构学习。实验结果表明，该方法能实现与文本编码方法相比 1-2 个数量级的推理成本减少和最先进的性能表现。

    Apr, 2020

  • 知识增强的上下文词表示

    提出了一种用多个知识库来加强大型模型表示的方法，每个知识库都通过一个集成实体链接器来检索相关实体嵌入，然后通过单词与实体关注的形式更新上下文单词表示，经实验发现知识增强的 BERT 模型具有更好的性能，且运行时间与 BERT 相当。

    Sep, 2019

  • 基于上下文和知识图谱的动态表示

    本文提出了一种名为 CKG 的动态表示方法，利用外部知识图谱中的实体信息来提高语言句子的正确语义，实验表明，CKG 在多项任务中达到了最优结果。

    Dec, 2022

  • 基于元学习的时态知识图谱推理

    本文介绍了一种基于元学习的时间知识图谱外推模型（MTKGE），该模型在已知时间知识图谱中进行链接预测任务的元训练，并在具有未知实体和关系的新兴时间知识图谱中进行测试。通过捕获关系的相对位置模式和时间序列模式的 GNN 框架，学习模式的嵌入可以转移到未知组件。实验结果表明 MTKGE 模型在两个不同的时间知识图谱外推数据集上均优于现有的知识图谱外推和特定自适应 KGE 和 TKGE 基线的最新模型。

    Feb, 2023

  • TempoQR: 在知识图谱上进行时间问题推理

    本文提出了一种基于嵌入感知的方法，名为 'Temporal Question Reasoning' (TempoQR)，用于回答复杂的基于时间的知识图谱问答。实验表明，TempoQR 在复杂的时间问题上比现有的先进方法提高了 25-45 个百分点，并且更好地泛化到看不见的问题类型。

    Dec, 2021

  • 时间知识图谱补全的历时嵌入

    本研究提出采用一种新的方法，通过为静态模型提供时间性实体嵌入功能，建立了广泛适用的时间性知识图完成模型，证明结合 SimplE 模型，该模型能优于现有模型。

    Jul, 2019