Jul, 2021

当代符号回归方法及其相对性能

PDF
TL;DR本文提出了一种开源、可重现的基准测试平台，对 14 种符号回归方法和 7 种机器学习方法以 252 个回归问题评估，发现真实数据集的最佳表现方法结合了遗传算法和参数估计和 / 或语义搜索驱动程序，而在噪声存在下找到精确方程的能力，深度学习和基于遗传算法的方法表现类似。
symbolic regressionbenchmarkingmachine learninggenetic algorithmsreproducibility
发现论文，激发创造
  • 最新符号回归方法的大型基准研究：现状如何？

    本研究对最近遗传规划、符号回归以及机器学习方法在回归问题中的表现进行了广泛的基准测试，并且发现在性能和准确度上，符号回归具有非常强的竞争力，但在运行时间上较缓慢，因此提出了符号回归在机器学习领域推广可能面临的问题。

    Apr, 2018

  • 符号回归的最新算法与遗传规划的比较

    我们对新兴的符号回归系统进行测试，使用端到端的转换器模型与基于遗传编程的传统方法进行比较，结果表明传统的遗传编程方法仍然优于最近发表的两种符号回归方法。

    Jun, 2024

  • 数据科学的可解释符号回归：对 2022 竞赛的分析

    本研究通过举行 Symbolic Regression 竞赛，基于不同的合成和真实数据集比较了演化算法、枚举算法、混合线性整数规划、神经网络和贝叶斯优化等不同算法在现实世界数据建模方面的表现，并讨论了 Symbolic Regression 算法的挑战和未来发展方向。

    Apr, 2023

  • 符号回归在可解释科学探究中的应用：评述

    本文综述了符号回归方法的优缺点，探讨了其在机器学习、深度学习等应用领域中以数据驱动的模型发现方法所取得的显著进展。

    Nov, 2022

  • 重新思考符号回归数据集和基准，以促进科学发现

    本研究重新审视了 Symbolic Regression 的数据集和评估标准，旨在探讨其在科学探索中的潜力。我们基于现有物理学讲义上的一组公式重建了 120 个数据集，为每个数据集设计了合理的取样范围，并提出使用标准化编辑距离作为评价指标。通过对五种最先进的 SR 方法和一种基于 Transformer 结构的简单基准线进行实验，结果表明我们提供了更现实的性能评估，并为开展基于机器学习的科学发现打开了新的思路。

    Jun, 2022

  • 深度符号回归：通过寻求风险策略梯度从数据中恢复数学表达式

    提出了利用深度学习解决符号回归的框架，该框架使用循环神经网络生成数学表达式分布，并使用新颖的风险寻求策略梯度来训练网络生成更好的拟合表达式。该算法在一系列基准问题中表现优于几种基准方法，包括符号回归的黄金标准 Eureqa。

    Dec, 2019

  • 可扩展神经符号回归

    本研究介绍了第一种使用大规模预训练的符号回归方法，通过生成一组不受限方程式并使用 Transformer 预测输入输出对应的符号方程，提高了方程式发现的效率和准确性。

    Jun, 2021

  • 神经引导基因编程种群种子的符号回归

    通过混合神经引导 / 遗传编程方法来优化符号回归问题，表明针对该混合优化方式的神经引导组件可用于改进生产规划初始种群，而分离神经引导和遗传编程组件的生成方式最优，增加了一组 22 个符号回归基准问题。

    Oct, 2021

  • 符号回归中的可解释性：使用费曼数据集的解释方法基准

    建议评估解释性方法以解释回归模型，特别是符号回归模型。在实验中，我们使用各种可解释和不可解释的回归方法以及流行的解释方法评估了解释器的性能，并发现符号回归模型是一种能够提供准确模型和合适解释的有趣选择。最稳定的解释模型是 Partial Effects 和 SHAP，而 Integrated Gradients 在基于树的模型中不稳定。此基准可供进一步实验使用。

    Apr, 2024

  • 空间应用中的符号回归：由多目标文化遗传算法推动的可微分笛卡尔遗传编程

    提出了一种利用可微分的 CGP 编码进行多目标进化搜索的 MEMETIC 算法，以学习回归方程中的数值常量，在火星探测器热功率估算和通过陀螺定年法确定恒星年龄两个应用中，该方法显示出与机器学习的黑盒回归模型或手动匹配方法同等或更高的性能。

    Jun, 2022