图神经网络中的算法推理
使用 Transformer 的语言理解和图神经网络（GNN）的鲁棒性，我们提出了一种新的方法，将 Transformer 与基于神经算法推理器（NARs）的图算法进行结合，以解决算法推理方面的问题。经过评估，在算法推理方面，我们的结果表明 TransNAR 模型在 CLRS-Text 上相较于仅使用 Transformer 模型，能够获得显著的提升。
Jun, 2024
人工智能研究半个世纪以来一直试图复制人类的抽象和推理能力，创造出可以从一小组示例中学习新概念的计算机系统，在人类轻松掌握的情境下进行。然而，尽管特定神经网络能够解决一系列问题，但对于训练数据之外的广泛泛化，仍然是个难题。本文提出了几种新颖的解决方法，用于解决抽象与推理语料库 (ARC) 的问题。尽管竞赛的最佳算法仍然无法解决大多数 ARC 任务，并且依赖于复杂的手工规则，而不使用机器学习。我们重新审视了神经网络领域的最新进展是否能够在这个任务上取得进展，并提出了适应 ARC 的 DreamCoder 神经符号推理求解器。DreamCoder 自动编写特定领域的语言程序进行推理，并使用神经网络模拟人类直觉。我们提出了感知抽象与推理语言 (PeARL) 语言，使 DreamCoder 能够解决 ARC 任务，并提出了一种新的识别模型，显著改进了之前的最佳实现。我们还提出了一种新的编码和增强方案，使大语言模型 (LLMs) 能够解决 ARC 任务，并发现最大的模型可以解决一些 ARC 任务。LLMs 能够解决一组不同于现有解算器的问题，并为其他方法提供了一种有趣的补充方式。我们进行了集成分析，将模型结合起来以取得比任何单独系统更好的结果。最后，我们发布了 arckit Python 库，使未来对 ARC 的研究更加容易。
Feb, 2024
神经算法推理 (NAR) 是一个研究领域，旨在设计神经网络结构，能够可靠地捕捉经典计算，通常通过学习执行算法。该研究分析了图神经网络 (GNN) 在执行算法时所产生的潜在空间结构，并提出了解决失去分辨率和处理训练范围之外值的方法。通过在基准测试中使用最先进的 Triplet-GMPNN 处理器，我们表明这些改变可以改善大多数算法的性能。
Jul, 2023
本文开发了一个框架来描述神经网络适用于哪些推理任务，并利用算法结构与相关推理过程的匹配程度推导了样本复杂度的界限，以解释一些模型在实践中的成功以及他们的局限性。
May, 2019
我们提出了一种神经推理器的架构选择，强制其将执行轨迹视作有限预定义状态的组合，通过对算法状态转换进行监督训练，以实现与原始算法的完美对齐，并在 SALSA-CLRS 基准测试中获得了完美的测试分数，同时使得我们能够证明对于任何测试数据，所学算法的正确性。
Feb, 2024
本研究采用最新的深度神经网络训练方法，成功开发出了一种模型，可以学会在基本本体论推理的形式下有效地进行逻辑推理，进而可以应用于许多现实世界中的问题，并且在各项实验中表现出高度准确和生物学上的可行性。
Aug, 2018
这篇论文调查了在图结构上执行神经符号推理任务的广泛方法，并提出了一个新的分类法来比较这些方法，包括基于逻辑推理嵌入方法、施加逻辑约束的嵌入方法和规则学习方法。此外，还提供了一个表格概述这些方法。
Feb, 2023
本文介绍了一种新颖的框架 Relational Neural Machines，它可以对学习器的参数和基于一阶逻辑的推理器进行联合训练，下面将介绍其在大规模关系任务中的可行性和良好效果。
Feb, 2020