May, 2023

一种轻量级的CNN-Transformer模型用于学习旅行商问题

HTML
PDF
TL;DR本研究提出了一种基于CNN嵌入层和局部自注意力的轻量级CNN-Transformer模型，相对于标准Transformer模型，该模型能够更好地从输入数据中学习空间特征，同时通过局部自注意力减少全连接注意模型中的冗余性。实验结果表明，我们提出的模型在解决TSP问题的质量、GPU内存使用和推理时间等方面优于其他最先进的Transformer-based模型。
发现论文，激发创造
  • 旅行商问题的高效图卷积网络技术

    本文介绍了一种基于深度学习算法的解决平面欧几里得图中旅行商问题的方法，通过使用图卷积网络构建TSP图表示，并通过高度并行化的Beam Search 非自回归方法输出巡回路径，我们在解决相同节点规模下的问题中比最近提出的自回归深度学习技术表现更好，最终平均优化差距从50个节点降低到0.01％，100个节点从 2.26％降至1.39％，尽管相较于标准的运筹学求解器，我们的方法还有所欠缺。

    Jun, 2019

  • 解决路径规划问题学习改进启发式方法

    本文提出一种基于self-attention的深度强化学习框架，以学习解决旅行商问题（TSP）和有容量车辆路径问题（CVRP）的改进启发式算法，实验表明该方法性能优于现有的深度学习方法，并且具有良好的泛化能力。

    Dec, 2019

  • 通过深度强化学习学习旅行商问题的2-opt启发式算法

    本论文使用基于深度加强学习方法的策略梯度算法，通过2-opt操作符学习本地搜索启发式，提出了一种可以轻松扩展到更一般k-opt移动的策略神经网络，实验结果表明，所学习的策略比之前的具有最先进性能的深度学习方法更快接近最优解。

    Apr, 2020

  • 学会解决旅行商问题要重新思考泛化

    本文提出了一种神经组合优化方法，将学习算法与模型架构相结合，以实现在训练过程中看不到的更大规模的问题的推广。通过对零样本推广的原理研究，控制实验提供了第一手数据，并提供了深度学习的新方向。

    Jun, 2020

  • 旅行商问题的Transformer网络

    本文利用强化学习和 Transformer 结构设计了用于 Traveling Salesman Problem 的新型算法，相较于以往的算法在 TSP50 和 TSP100 上有了更好的表现

    Mar, 2021

  • 结合强化学习和最优传输的旅行商问题

    利用熵正则化最优传输技术作为深度强化学习网络中的一层，以实现更快速的学习并在端到端训练期间强制执行分配约束和规定，从而对于解决组合优化问题的效率进行优化。

    Mar, 2022

  • 指针转换器：用于旅行商问题的深度强化多指针Transformer

    本文提出了一种新的端到端深度强化学习方法Pointerformer，基于多指针变压器，可解决旅行商问题（TSP）的内存消耗和算力问题，通过特征增强方法探索TSP的对称性以及增强上下文嵌入方法以包含更多综合上下文信息，此方法在小规模和大规模问题上均表现出了竞争优势。

    Apr, 2023

  • 稀疏化对于Transformer和Graph神经网络在TSP中的重要性

    对于旅行推销员问题 (TSP) 进行路由问题的研究中，提出了一种数据预处理方法，使用图稀疏化和注意力掩码来将编码器聚焦于TSP实例的关键部分，实验结果显示，适当的图稀疏化和注意力掩码方法可以显著提高整体架构的性能。

    Mar, 2024

  • 无监督学习中旅行商问题的规模和难度泛化

    探讨无监督学习在解决旅行推销员问题中的泛化能力，通过训练图神经网络并使用嵌入来构建边缘的热图，同时研究不同的训练实例大小、嵌入维度和分布对无监督学习方法结果的影响，结果表明使用较大的实例规模和增加嵌入维度可以构建更有效的表示，提高解决旅行推销员问题的能力，并发现在不同分布上进行泛化评估时，选择更困难的实例作为训练数据可以使模型具备更好的泛化能力。

    Mar, 2024

  • 现实世界旅行商问题场景的层次神经构造求解器

    本研究解决了现有神经构造求解器对真实世界旅行商问题（TSP）场景适应性不足的问题。提出了一种新颖的方法，通过引入基于当前节点的可学习选择层和近似聚类算法，以更有效地选择未访问的城市。研究结果表明，该层次方法在解决现实TSP问题时性能优于传统及近期的变压器模型，具有显著的实际应用潜力。

    Aug, 2024