Apr, 2024

通过任务指导的表征压缩实现通用参考知识链接

PDF
TL;DR本文提出了一种统一的参考知识链接模型 (Universal Referential Knowledge Linking, URL)，通过 LLM 驱动的任务指导表示压缩和多视角学习方法，有效地将 LLM 的指令跟随和语义理解能力应用于参考知识链接，以解决多样化的参考知识链接任务。实验结果表明，现有方法在面对普适 RKL 时存在挑战，而所提出的框架能够有效地解决不同场景下的任务，从而大幅度优于先前的方法。
referential knowledge linkinguniversal referential knowledge linkingllm-driven task-instructed representation compressionmulti-view learning approachbenchmark
发现论文，激发创造
  • 知识表示学习：量化评述

    本文综述了知识表示学习的动机和现有方法，并在知识获取的三个评估任务上对几种典型的 KRL 方法进行了广泛的定量比较和分析。此外，我们还回顾了 KRL 的实际应用，包括语言建模、问答、信息检索和推荐系统，并讨论了剩余的挑战和未来的方向。

    Dec, 2018

  • 基于上下文语言模型的关系世界知识表示：一次综述

    该综述着重探讨如何通过训练深度上下文语言模型，在没有人为限制下更灵活地内部化和表达关系知识，对知识表示策略进行分类，提出了高层次的可扩展分类法，并强调了当前语言模型在知识表示方面的能力与未来的研究方向。

    Apr, 2021

  • 具有语义相关性感知的广义关系学习用于链接预测

    该研究提出了一种统一的关系学习框架（GRL），该框架可以插入现有的链接预测模型中，能够增强现有的链接预测模型，使其对于不平衡的关系分布和学习未见关系具有不敏感性，并能够联接语义相似的关系。

    Dec, 2020

  • 利用语义解析进行知识库中的关系链接

    通过语义解析（AMR）和远程监督，SLING 整合了多种关系链接方法，以捕获互补信号，如语言线索，丰富的语义表示和来自知识库的信息。在关系链接方面做了实验，并在三个 KBQA 数据集上取得了最先进的表现。

    Sep, 2020

  • 检索增强的语言模型用于极端多标签知识图链接预测

    通过在大型语言模型中提取利用结构化真实世界知识的相关信息，我们提出了一种新的任务，即极端多标签知识图链接预测任务，以便模型可以使用多个响应来执行推断，从而解决了大型语言模型在开放式查询中的外推问题。

    May, 2024

  • 通过表示学习实现表格理解

    本文提出了 TURL 框架，该框架利用预训练 / 微调方法，在无监督的情况下学习关系表的深度上下文化表示，并应用于各种任务中。通过结构感知的 Transformer 编码器建模关系表的行列结构，并引入了一种新的 Masked Entity Recovery 目标进行预训练。在 6 个不同的关系表理解任务中，TURL 广泛适用且相对于现有方法具有更好的表现。

    Jun, 2020

  • 学习实体和关系的表征

    本文提出了三种知识图谱表征模型，分别是 HypER、TuckER 和 MuRP，它们都能够自动预测缺失的关系，并且在性能方面不断取得进步。同时，该文还将最新的理论研究成果推广到了知识图谱的领域，探讨了如何在这些模型中编码不同种类的关系。

    Jan, 2022

  • ComFact: 上下文常识知识链接基准

    本研究提出新的任务 —— 通识事实连接，并构建了一个新的基准数据集 ComFact，结果表明启发式事实连接方法是不精确的知识提取器，而学习型事实连接模型则明显改善了下游任务表现。

    Oct, 2022

  • LinkQ: 一个辅助 LLM 的可视化界面用于知识图谱问答

    LinkQ 是一个通过自然语言问答来简化知识图谱查询构建的系统，它利用了大型语言模型来构建查询，使用户能够轻松地从知识图谱数据中获取有价值的信息，并通过迭代将开放性问题转化为精确问题，从而进行探索性和确认性数据分析。

    Jun, 2024

  • 知识图谱大规模语言模型（KG-LLM）用于链接预测

    通过使用链式思维促进和上下文学习，该研究介绍了一种新方法，即知识图大型语言模型框架（KG-LLM），以提高知识图中多跳链接预测的效果。实验证明，集成上下文学习和链式思维不仅增加了方法的性能，而且显著提高了模型的泛化能力，从而在陌生情境中实现更准确的预测。

    Mar, 2024