离散神经算法推理
本研究旨在通过提出简单但有效的建筑改进并构建一种自我监督目标来学习神经算法推理，以在 CLRS 算法推理基准测试中获得新的最先进结果，并在各种问题中获得显着的改进，证明了不需要中间监督的学习方法是神经推理器进一步研究的有希望的方向。
Jun, 2023
学习算法的表征是机器学习的一个新兴领域，该研究旨在通过神经网络与经典算法的概念相结合。为了统一评估标准并推进统一的评估方法，我们提出了 CLRS 算法推理基准。该基准涵盖从算法导论教材中提取出来的经典算法，跨越了各种算法推理过程，包括排序、搜索、动态规划、图形算法、字符串算法和几何算法。我们进行了大量实验来展示几个流行的算法推理基线在这些任务上的表现，并进一步强调了几个开放挑战的链接。
May, 2022
该论文介绍了一种基于图神经网络的通用神经算法学习器，能够学习执行多种算法，如排序、搜索、动态规划、路径查找和几何等，同时提出了一系列改进方法，进一步提高了单任务性能和多任务学习的效果。
Sep, 2022
本文介绍了一种可扩展的神经网络结构和损失函数，专门用于学习离散图形模型所表达的 NP-hard 解决问题的约束和标准，并在实践中证明其能够高效地从自然输入中学习如何解决 NP-hard 推理问题，具有数据效率，可解释性和后验控制。
May, 2023
神经算法推理是一种新兴的研究方向，它赋予神经网络以逐步模拟算法执行的能力。本文的观察是，现有设计中的历史依赖性与算法推理任务的马尔可夫性质相矛盾。基于这一动机，我们提出了 ForgetNet，它不使用历史嵌入，因此与任务的马尔可夫性质一致。为了解决 ForgetNet 在早期训练阶段的挑战，我们进一步引入了 G-ForgetNet，使用门控机制来实现历史嵌入的选择性集成。这种增强的能力在模型的早期训练阶段提供了有价值的计算路径。基于 CLRS-30 算法推理基准，我们进行了大量实验证明，ForgetNet 和 G-ForgetNet 相较于现有方法更具有泛化能力。此外，我们研究了门控机制的行为，突显了其与我们的直觉的一致性以及在稳健性能方面的有效性。
Mar, 2024