- LLM 作为提示器:在任意知识图上进行低资源归纳推理
利用大型语言模型 (LLMs) 并结合图结构提示的方法来增强预训练图神经网络 (GNNs) 的图谱归纳推理能力,通过实验证明该方法在低资源场景下的推理任务中表现出强大的鲁棒性和性能提升.
- 机器学习与本体论的结合:一项系统文献综述
整合归纳推理和演绎推理的过程,系统文献综述发现研究了机器学习和本体结合的文章,并将归纳推理(由机器学习执行)和演绎推理(由本体执行)结合到人工智能系统中。通过分析 128 项研究,我们找到了三个主要的机器学习和本体结合的类别:增强本体、语义 - 基于结构实体锚点的高效对比知识图谱补全的统一结构和语义
使用预训练语言模型方法,结合实体锚点和负采样的方式有效地统一了结构信息和语义信息,提高了知识图谱完成任务的性能,尤其在关联预测任务上表现最佳,超过了现有结构为基础的方法。
- EMNLP对话推理的对比学习
推理,尤其是归纳过程中产生的推理,是我们通过补充发言者隐含或明示传达的信息来进行对话的重要组成部分。然而,尽管最近的大型语言模型在推理任务方面取得了显著进展,但它们在归纳推理(不是所有信息都在上下文中出现)方面的表现远远落后于演绎推理。在本 - 现象异常而令人迷惑:用假设修正测试语言模型的归纳推理能力
使用迭代性的假设修正技术,通过三步骤的提议、选择和修正来研究语言模型在归纳推理任务中的能力,并发现其在产生假设和筛选规则方面表现出色,但在识别可信规则和应用提议规则方面存在差距,揭示了语言模型在归纳推理任务中的潜力和局限。
- 假设搜索:利用语言模型进行归纳推理
通过产生多个抽象假设并将其转化为具体的 Python 程序,进而为大型语言模型提高归纳推理能力,并利用自动生成的摘要或人工筛选的候选集来过滤生成的程序,从而在归纳推理任务中实现更高的准确性。
- 按能力而非得到的结果行事:基于拓扑结构的多模态知识图谱多跳推理
本文提出了一种拓扑感知的、适用于归纳和推理环境下的多模态知识图谱推理方法 TMR,该方法主要由任务感知归纳表示和关系增强自适应强化学习两个组件构成,并在不同规模的归纳推理数据集上进行了评估。实验表明,TMR 在归纳和推理环境下均优于现有的多 - 人类与大型语言模型中的归纳推理
本文采用 GPT-3 和 GPT-4 模型对归纳推理问题进行研究,实验证明 GPT-4 在大多数情况下能够与人类归纳推理行为相匹配,但无法涵盖前提非单调的现象。
- 大型语言模型是上下文语义推理者而非符号推理者
本文研究了大型语言模型 LLMs 的推理能力,通过对语义从推理过程中的剥离进行实验,发现语义在 LLMs 的推理中起着至关重要的作用,但在符号逻辑和违反常识的推理任务中表现出困难。作者提出了这一发现的新视角,并呼吁深入研究 LLMs 的推理 - 基于分层变压器的关系路径和上下文感知归纳关系预测
本文提出了一种名为 REPORT 的新方法,利用 Transform 器框架同时聚合关系路径和上下文,能够自然地推广到完全归纳设置,实验表明 REPORT 在两个完全归纳数据集的八个版本子集中表现比所有基线方法都要好,同时提供可解释性的预测 - 多樣視頻演示生成程序
本文介绍一种可以从视频演示中提取概括性规则的模型,并探讨了其处理多个序列的能力,从而相较于传统的概括技术可以更好地利用边缘情况,并无需进行额外的过滤。通过在 Vizdoom 环境中合成程序的实验,取得了相对于现有工作的 11.75% 的程序 - 语言模型作为归纳推理器
研究用自然语言作为代表知识的表示方法进行归纳推理的新任务 DEER 数据集,提出新的自动度量标准以及基于哲学文献的新任务框架,并且证明了预先训练好的语言模型在该任务上表现优秀。
- 基于连接子图预训练的少样本关系推理
本文提出基于 Connection Subgraph Reasoner 的 few-shot knowledge graph completion 方法,通过建模支持三元组和预测三元组之间的共享连接子图,实现直接针对目标 few-shot - 多批次新出现实体归纳知识图谱推理
本研究提出了一种基于图卷积网络和关系聚合的归纳推理模型,利用自适应关系聚合和反馈注意机制对实体进行编码和更新,并针对新实体的稀疏性问题提出了链接增强策略。实验结果表明该模型在归纳知识图谱推理方面优于现有的基于嵌入、基于行走和基于规则的模型。
- 学习适应性传播以进行知识图谱推理
本文介绍了基于图神经网络和知识图谱的学习方法,探讨了路径传播中关键因素,并提出了一种自适应的传播路径方法,通过过滤不相关的实体同时保留有前途的目标,实现了更深层次的信息抓取,最终获得了在归纳推理中领先的效果。
- AAAI语义认知、归纳推理与语言模型
利用归纳推理现象,通过研究语言模型(LMs)中的语义归纳综合,分析人工归纳文献中观察到的现象,并研究涉及隐含推理和新出现功能识别等任务的归纳行为,并分析并联系到学习到的概念表示空间。
- 关系有向图的知识图谱推理
本文提出了一种新颖的关系结构,即关系有向图,用于捕捉知识图中的局部证据,并提出了 RED-GNN 来有效处理该结构,并证明其在归纳和传递推理任务中的有效性和效率。
- AAAI知识图谱中基于拓扑感知的关系间归纳连接预测相关性
该论文提出了一种新的归纳推理方法 TACT,可以有效地利用关系之间的拓扑感知相关性,以预测缺失的链接,相比现有的方法,表现得更好。
- AAAI归纳式关系推理的沟通信息传递
提出了一种基于子图的神经网络模型 CoMPILE,该模型以专注于本地有向子图结构和强大的归纳偏置为特点,在推理和处理实体无关的语义关系方面具有优越性能。
- 归纳推理的一般非概率理论
通过定义和说明,本文提出了一种新的解决方案来代表非概率性信念状态,并将其与概率理论进行比较,发现新理论在结构上类似于概率理论,但更容易实现,并且在某些方面更为简单。