DISCO: 大规模组合优化问题的高效扩散求解器
基于图的扩散模型在解决 NP 完全问题的组合优化中展现了有希望的结果。然而,由于去噪扩散过程的迭代评估特性,这些模型通常在推理时效率低下。本文提出使用渐进蒸馏来加速推理过程,通过在去噪过程中只进行少量步骤的预测(例如,在单个步骤中预测未来两步)。我们的实验结果表明,经过渐进蒸馏的模型在 TSP-50 数据集上仅仅损失 0.019% 的性能,而推理速度却提高了 16 倍。
Aug, 2023
本论文提出了一种新型的概率模型 ——DISsimilarity COefficient Networks(DISCO Nets),并论证了通过建立这种概率模型,在预测任务中利用深度学习方法可以更好地处理输出值的不确定性问题。
Jun, 2016
通过引入一种可以上界反向 Kullback-Leibler 散度且避免要求确切样本似然的损失函数,本研究提出了一种能够解决在不依赖相应训练数据的情况下从难以处理的离散集合中进行采样的问题的方法,并展示了该方法在无数据组合优化中实现了最先进的性能。
Jun, 2024
本文提出 DIMES 算法,通过采样来优化候选解的分布,使用连续空间来代替离散解空间,用稳定的 REINFORCE 方法进行训练和微调,同时利用元学习框架对模型参数进行有效的初始化来解决 DRL 在大规模组合优化中的可扩展性挑战,实验证明 DIMES 在旅行商问题和最大独立集问题的大型基准数据集上优于最近的 DRL 方法。
Oct, 2022
本文提出了一个名为 disco 的 Python 库,用于使分布式控制技术更容易为广大公众所使用,以解决现有语言模型和其他生成模型所遇到的不足和局限。
Mar, 2023
提出了一种结合深度符号优化学习框架的新型深度符号优化节点选择模块(Dso4NS)的方法,该方法通过数据驱动的方法在高维离散符号空间中搜索数学表达式,并将性能最佳的数学表达式纳入求解器,实现快速推理和高解释性。实验结果表明,Dso4NS 在学习高质量表达式方面表现优于现有方法,在 CPU 机器上达到与最新的 GPU 方法相当的性能。
Jun, 2024
我们提出了一种名为 DisCo 的方法,以增强推荐系统,其中捕获了两个表示空间的特异性和一致性,然后将这些特征作为额外特征附加到任意的推荐主干中,实验证实了我们方法的优越性和兼容性。
May, 2024
通过与嵌入式组合优化求解器集成的深度生成模型,我们提出了 GenCO 框架,旨在发现与非线性目标一致的高质量解决方案,解决了传统的生成模型和优化求解器在遵循离散 / 组合约束和惩罚偏离方面的困难,以生成多样的、高质量的解。
Oct, 2023