通过构建神经网络来执行算法计算的神经算法推理有可能将经典算法运用于以前被视为不可达的输入，从而有了转化性的潜力。
May, 2021
通过与神经网络和热带代数的连接，将算法推理集成到机器学习模型中的潜力展示出来。
Feb, 2024
我们提出了一种神经推理器的架构选择，强制其将执行轨迹视作有限预定义状态的组合，通过对算法状态转换进行监督训练，以实现与原始算法的完美对齐，并在 SALSA-CLRS 基准测试中获得了完美的测试分数，同时使得我们能够证明对于任何测试数据，所学算法的正确性。
本研究旨在通过提出简单但有效的建筑改进并构建一种自我监督目标来学习神经算法推理，以在 CLRS 算法推理基准测试中获得新的最先进结果，并在各种问题中获得显着的改进，证明了不需要中间监督的学习方法是神经推理器进一步研究的有希望的方向。
Jun, 2023
本研究探讨如何通过数据增广过程来提高神经算法推理的泛化能力，该过程在 CLRS 算法推理基准测试中取得了 3 倍的性能改善。
Feb, 2023
本文探讨了如何利用执行步骤信息，通过多任务学习将图算法的算法推理知识迁移到其他类似任务上，解决缺乏执行步骤信息时的推理问题。研究包括了包括宽度优先搜索和 Bellman-Ford 等并行算法，以及 Prim 和 Dijkstra 等流贪心算法等不同类型图算法。
Oct, 2021
本文介绍了一种新颖的框架 Relational Neural Machines，它可以对学习器的参数和基于一阶逻辑的推理器进行联合训练，下面将介绍其在大规模关系任务中的可行性和良好效果。
Feb, 2020
最近在神经算法推理方面的研究表明，图神经网络（GNN）可以学习执行经典算法。然而，这种方法始终使用了循环架构，其中每个 GNN 的迭代与算法的迭代相匹配。我们猜测并经验证，可以通过直接找到平衡点训练网络来解决算法问题，而不需要将每个 GNN 迭代与算法的步骤相匹配。
学习算法的表征是机器学习的一个新兴领域，该研究旨在通过神经网络与经典算法的概念相结合。为了统一评估标准并推进统一的评估方法，我们提出了 CLRS 算法推理基准。该基准涵盖从算法导论教材中提取出来的经典算法，跨越了各种算法推理过程，包括排序、搜索、动态规划、图形算法、字符串算法和几何算法。我们进行了大量实验来展示几个流行的算法推理基线在这些任务上的表现，并进一步强调了几个开放挑战的链接。
May, 2022
神经算法推理是一种新兴的研究方向，它赋予神经网络以逐步模拟算法执行的能力。本文的观察是，现有设计中的历史依赖性与算法推理任务的马尔可夫性质相矛盾。基于这一动机，我们提出了 ForgetNet，它不使用历史嵌入，因此与任务的马尔可夫性质一致。为了解决 ForgetNet 在早期训练阶段的挑战，我们进一步引入了 G-ForgetNet，使用门控机制来实现历史嵌入的选择性集成。这种增强的能力在模型的早期训练阶段提供了有价值的计算路径。基于 CLRS-30 算法推理基准，我们进行了大量实验证明，ForgetNet 和 G-ForgetNet 相较于现有方法更具有泛化能力。此外，我们研究了门控机制的行为，突显了其与我们的直觉的一致性以及在稳健性能方面的有效性。
Mar, 2024