ACLMar, 2022

基于知识图谱专家混合的常识推理内容生成的多样化

PDF
TL;DR本文提出了一种基于领域专家积混合策略的方法（即 MoKGE），以通过 commonsense 知识图谱来增加生成推理的多样性，结果表明 MoKGE 能够显著提高多样性并在 GCR 的两个基准测试中取得与准确性相当的性能。
generative commonsense reasoningdiversitymokgeknowledge graphsnatural language
发现论文，激发创造
  • 通过上下文学习提高大型语言模型对常识生成的多样性

    生成常识推理（GCR）需要模型利用常识知识进行推理，同时生成连贯的句子。本论文提出了一种简单的方法来增加大型语言模型（LLMs）生成的多样性，同时保持生成质量。实验结果表明，该方法在生成质量和多样性之间取得了理想的平衡，并且所生成的句子可用于改善现有常识生成器的多样性。

    Apr, 2024

  • 知识图谱增强的韩语生成式常识推理

    本文提出一种利用韩语知识图谱数据进行文本生成的方法，并强调使用补充数据可以增强韩语通识推理的效率。

    Jun, 2023

  • Commonsense 知识图谱上的多跳推理语言生成

    本文提出了一种利用常识知识图谱，将结构信息和语义信息结合到推理中，提高语言模型在生成任务中处理常识知识的准确性。通过动态多跳推理模块，本文建立了 Generation with Multi-Hop Reasoning Flow (GRF) 模型，实验表明该模型在三个包含常识知识推理的生成任务中的表现优于现有基线模型。

    Sep, 2020

  • 混合模态知识专家用于鲁棒的多模态知识图补全

    多模态知识图谱补全 (MMKGC) 旨在通过协同建模大量三元组中隐藏的结构信息和实体的多模态特征，自动发现给定的多模态知识图谱中的新知识三元组。我们引入了一种新颖的 MMKGC 框架，即混合模态知识专家 (MoMoK)，来学习在复杂关系环境下自适应的多模态嵌入。通过设计关系指导的模态知识专家来获取关系感知的模态嵌入，并整合多模态的预测结果以实现全面的决策。此外，通过最小化它们的互信息来解开这些专家之间的联系。在四个公开的 MMKG 基准上的实验证明了 MoMoK 在复杂情境下的出色性能。

    May, 2024

  • DimonGen：用于解释概念关系的多样化生成常识推理

    本文提出了 DimonGen，它旨在在各种日常情境中生成描述概念关系的多样化句子，并通过调整现有的 CommonGen 数据集来支持此任务。提出一个名为 MoREE 的双阶段模型，由检索模型和生成模型混合而成，并通过实验表明 MoREE 在生成句子的质量和多样性方面均优于强基线。

    Dec, 2022

  • MMKGR: 多跳多模态知识图谱推理

    本研究提出了一种名为 MMKGR 的新型模型，其中包含一种统一的门 - 关注网络和一种补充特征感知的强化学习方法，通过有效的多模态补充特征和多次迭代推理，能够更好地实现知识图谱方面的任务，与现有方法相比推理性能更好。

    Sep, 2022

  • 通过外部自然问题对知识库进行多样化问题生成

    我们提出了一种新的多样性评估度量，用于评估每个实例的前 K 个生成问题的多样性，并确保它们与事实相关。同时，我们引入了一个双模型框架，通过两种选择策略将外部自然问题与生成模型相结合，以生成多样化的问题。实验结果表明，我们的方法生成了高度多样化的问题，并改善了问题回答任务的性能。

    Sep, 2023

  • 多模态知识图谱下的多模态推理

    提出了一种利用多模态知识图 (MMKGs) 进行多模态推理的方法 (MR-MKG)，通过利用多模态知识图 (MMKGs) 跨模态地学习丰富的语义知识，显著提高了大型语言模型 (LLMs) 在多模态推理中的能力。通过在仅使用 LLM 参数的 2.25% 进行训练，MR-MKG 在多模态问答和多模态类比推理任务上取得了优越的性能，胜过了之前的最新模型。

    Jun, 2024

  • 图混合专家：使用显式多样性建模在大规模图上学习

    该论文引入了 Mixture-of-Expert（MoE）思想到图神经网络中，提出了一种新的 Graph Mixture of Expert（GMoE）模型，用于同时建模多样的训练图结构，通过在 OGB 基准测试中表现的提升来验证 GMoE 的有效性。

    Apr, 2023

  • 学习常识推理的情境化知识结构

    该研究提出一种名为 Hybrid Graph Network（HGN）的知识图谱（KG）增强模型，通过在一个统一的图结构中同时推理提取和生成的知识来解决 KG 边缘稀疏和嘈杂的问题，证明了该模型在四个常识推理基准测试中取得的相当大的性能增益，并研究了边缘有效性和帮助性。

    Oct, 2020