Sep, 2023

SALSA-CLRS：一种稀疏且可扩展的算法推理基准

PDF
TL;DR我们介绍了对 CLRS 算法学习基准的扩展，重点是可扩展性和稀疏表示的利用。我们提出了 SALSA-CLRS，这是当前 CLRS 基准的一个扩展，具有可扩展性和稀疏性的特点。我们的方法包括从原始 CLRS 基准中调整的算法，并引入了来自分布式和随机化算法的新问题。此外，我们对我们的基准进行了彻底的实证评估。
发现论文，激发创造
  • CLRS 算法推理基准

    学习算法的表征是机器学习的一个新兴领域，该研究旨在通过神经网络与经典算法的概念相结合。为了统一评估标准并推进统一的评估方法，我们提出了 CLRS 算法推理基准。该基准涵盖从算法导论教材中提取出来的经典算法，跨越了各种算法推理过程，包括排序、搜索、动态规划、图形算法、字符串算法和几何算法。我们进行了大量实验来展示几个流行的算法推理基线在这些任务上的表现，并进一步强调了几个开放挑战的链接。

    May, 2022

  • CLRS - 文本算法推理语言基准测试

    我们提出了 CLRS-Text，它是一个基于文本的类似于算法追踪的数据集生成器，可用于在任意输入分布下生成各种具有挑战性的算法任务，并为理解能力模型为该基准提供了标准流程。

    Jun, 2024

  • 离散神经算法推理

    我们提出了一种神经推理器的架构选择，强制其将执行轨迹视作有限预定义状态的组合，通过对算法状态转换进行监督训练，以实现与原始算法的完美对齐，并在 SALSA-CLRS 基准测试中获得了完美的测试分数，同时使得我们能够证明对于任何测试数据，所学算法的正确性。

    Feb, 2024

  • LSALSA：通过学习稀疏编码加速源分离

    本研究提出了一种用于稀疏编码（SC）问题的高效算法，既适用于单个字典设置，又适用于形态学组分分析（MCA）中的多个字典设置；该算法采用深度学习结构，可以加速获得稀疏编码，并在提高运行速度、提高数据质量和改善视觉清晰度方面取得了巨大的改进。

    Feb, 2018

  • SparCL：边缘稀疏持续学习

    本文提出了一种名为 Sparse Continual Learning（SparCL）的新框架，通过权重稀疏性、数据效率和梯度稀疏性的协同作用来实现训练加速和准确性保持，并且在资源受限的环境下，基于稀疏性的连续学习可以实现成本效益。

    Sep, 2022

  • EsaCL：高效学习稀疏模型

    提出了一种用于高效学习稀疏模型的新方法，该方法能够自动修剪冗余参数而不降低模型的预测能力，并且避免了重新训练的需要。通过理论分析和设计的修剪和数据选择策略，实验结果表明该方法在减少存储和计算资源的同时，能够在连续学习任务上达到与现有方法相媲美的性能。

    Jan, 2024

  • 约束稀疏回归的交替方向算法：应用于高光谱解混合

    本文介绍了两种新算法（SUnSAL 和 C-SUnSAL），用于解决凸优化问题，特别是在高光谱分离中使用的问题。这些算法基于交替方向乘子方法，可用于解决 CBP 和 CBPDN 问题以及 CLS 和 FCLS 问题。实验结果表明，这些算法在速度和准确性方面优于现有的方法。

    Feb, 2010

  • 稀疏和局部网络用于超图推理

    本文介绍了一种使用稀疏和局部超图神经网络（SpaLoc）学习解决大规模实际领域中这种问题的方法，其利用稀疏矩阵表示和信息足够性的抽样过程，提高了学习和推理的效率，并在几个实际且大规模的知识图谱推理基准测试中实现了最先进的性能。

    Mar, 2023

  • 系统评估推理捷径的基准套件

    强大的神经分类器的出现增加了对既需要学习又需要推理的问题的兴趣，该研究论文介绍了一个包含任务评估、概念质量评估和推理快捷方式验证的综合基准套件，旨在系统地评估推理快捷方式对模型的影响。

    Jun, 2024

  • 通用神经算法学习器

    该论文介绍了一种基于图神经网络的通用神经算法学习器，能够学习执行多种算法，如排序、搜索、动态规划、路径查找和几何等，同时提出了一系列改进方法，进一步提高了单任务性能和多任务学习的效果。

    Sep, 2022