MMApr, 2024

符号回归中的可解释性：使用费曼数据集的解释方法基准

PDF
TL;DR建议评估解释性方法以解释回归模型，特别是符号回归模型。在实验中，我们使用各种可解释和不可解释的回归方法以及流行的解释方法评估了解释器的性能，并发现符号回归模型是一种能够提供准确模型和合适解释的有趣选择。最稳定的解释模型是 Partial Effects 和 SHAP，而 Integrated Gradients 在基于树的模型中不稳定。此基准可供进一步实验使用。
interpretabilitymachine learning modelsexplanatory methodssymbolic regressionexplanation models
发现论文，激发创造
  • 符号回归在可解释科学探究中的应用：评述

    本文综述了符号回归方法的优缺点，探讨了其在机器学习、深度学习等应用领域中以数据驱动的模型发现方法所取得的显著进展。

    Nov, 2022

  • 正则化黑盒模型以提高可解释性 （HILL 2019 版本）

    本文提出了一种新的方法，即在训练时直接对黑盒模型进行可解释性正则化，以改善解释效果，提高模型的可解释性，并保持一定的准确性。

    May, 2019

  • 数据科学的可解释符号回归：对 2022 竞赛的分析

    本研究通过举行 Symbolic Regression 竞赛，基于不同的合成和真实数据集比较了演化算法、枚举算法、混合线性整数规划、神经网络和贝叶斯优化等不同算法在现实世界数据建模方面的表现，并讨论了 Symbolic Regression 算法的挑战和未来发展方向。

    Apr, 2023

  • 当代符号回归方法及其相对性能

    本文提出了一种开源、可重现的基准测试平台，对 14 种符号回归方法和 7 种机器学习方法以 252 个回归问题评估，发现真实数据集的最佳表现方法结合了遗传算法和参数估计和 / 或语义搜索驱动程序，而在噪声存在下找到精确方程的能力，深度学习和基于遗传算法的方法表现类似。

    Jul, 2021

  • 贝叶斯符号回归

    本文提出了一种新的基于贝叶斯的符号回归 (SR) 方法，通过添加先验知识，控制复杂度，并利用马尔可夫链蒙特卡罗方法从后验分布中采样符号树，从而提高 SR 模型的可解释性和准确性。与遗传编程相比，该方法更节省计算机内存。

    Oct, 2019

  • 符号回归的最新算法与遗传规划的比较

    我们对新兴的符号回归系统进行测试，使用端到端的转换器模型与基于遗传编程的传统方法进行比较，结果表明传统的遗传编程方法仍然优于最近发表的两种符号回归方法。

    Jun, 2024

  • 线性模型的最优解释

    提出了一种基于最优化的规则，将线性模型分解为不断增加复杂性的一系列模型，从而为线性模型创建解释，并派生出线性模型的参数化互操作性指标族，研究了解释性和预测准确性之间的权衡。

    Jul, 2019

  • 可解释性的代价

    本文提出一个基于数学框架的方法，构建以逐步可解释的模型。我们演示了应用于实际和合成数据集的实用算法，并定量化了 “可解释性” 的 “价格” 与预测准确性的权衡。

    Jul, 2019

  • 操纵与测量模型可解释性

    在高风险领域中，机器学习模型已经被广泛用于辅助决策，而开发可解释的模型的兴趣逐渐增加。然而，是否这些模型能实现预期的效果，我们缺乏实验研究来证明。本研究开展了一系列预先注册的实验，展示了具有不同要素的模型，以调查它们的可解释性。结果表明，模型越透明、特征越少，参与者越能成功地模拟模型的预测，但是参与者并没有更加倾向于紧密关注其预测，而拥有透明的模型却使参与者因信息过载难以检测和修正模型的重大错误。这些结果强调了开发可解释模型时实验测试的重要性。

    Feb, 2018

  • 黑盒模型解释方法的基准测试和调查

    这篇论文探讨了在人工智能中黑盒模型的广泛应用，加强了揭示这些模型是如何做出决策的需求，首先提出一种基于返回信息类型的解释方法分类，展示最近和广泛使用的解释器，通过视觉比较和定量基准测试进行展示。

    Feb, 2021