Apr, 2023

使用黑盒强化学习实现分类树的最佳可解释性与性能平衡

PDF
TL;DR该论文研究了一种新的 Reinforcement Learning (RL) 框架，证明了只需要解决一个完全可观测的问题就能学习到一个优化可解释性 - 性能平衡的决策树。
ai modelsinterpretabilitydecision treesreinforcement learningsupervised classification
发现论文，激发创造
  • IBMDP 中决策树策略学习的演员 - 评论算法的局限性

    AI 模型的可解释性使用户能够建立对这些 AI 的信任。我们展示了通过深度强化学习学习决策树的一个方法，从而通过透明地显示输入的关键特征来实现模型的解释性。

    Sep, 2023

  • 马尔可夫决策过程的最优决策树策略

    本文提出了一种优化方法，通过线性规划直接优化有限深度的决策树，使其在马尔科夫决策过程中达到最优性能，可用于解决强化学习策略可解释性的问题。通过实验证明，这种方法在性能和可解释性之间取得了平衡。

    Jan, 2023

  • 用动态规划发现决策树的解释性与性能的最优解

    为了找到最佳的决策树，本文提出了一种新的马尔可夫决策问题 (MDP) 的公式，允许用户在计算一个动态规划的同时选择最适合自身需求的决策树

    Sep, 2023

  • 决策树的优质多样进化学习

    为了解释机器学习的需求，在解释性人工智能研究方向上，决策树和增强学习的混合模型成为一个新的研究方向，其中使用了 MAP-Elites 方法来拓展模型，该方法在 OpenAI Gym 库的两个控制问题中表现良好。

    Aug, 2022

  • 可微分决策树是否能够学习可解释的奖励函数？

    使用 Differentiable Decision Trees 学习可解释的奖励函数，研究表明其能够学习可解释的奖励函数，但树的离散性会降低强化学习的性能。

    Jun, 2023

  • 深度强化学习驱动调度的可解释建模

    通过使用可解释性强的决策树模型，我们提出了一个名为 IRL（可解释增强学习）的框架，用于解决深度强化学习在集群调度中缺乏可解释性的问题，并且证明了 IRL 可以在保持相似调度性能的同时将黑盒深度神经网络策略转化为可解释的基于规则的决策树。

    Mar, 2024

  • 解释决策树

    该研究提出了一种计算 DT 的极小解释集 PI-explanations 的新模型，该模型可在多项式时间内计算一个 PI-explanation，并将枚举 PI-explanations 减少到枚举最小击中集的数量。实验结果表明，在大多数情况下，DT 的路径是 PI-explanations 的子集。

    Oct, 2020

  • 使用机器学习设计可解释决策支持系统是什么？

    本文提出增强学习可用于学习不同用户可解释的模型，由此建立他们对机器学习模型的信任。通过与医生交互，基于神经网络模型，设计了一个基于强化学习的临床决策支持系统，结果表明，机器学习专家无法准确预测哪个系统输出将最大化临床医生对底层神经网络模型的信心，这些结果对将来机器学习可解释性研究以及机器学习在医学中的应用都具有广泛的意义。

    Nov, 2018

  • 循环决策树中的交互式强化学习特征选择

    我们提出了一种新的交互式和闭环架构，同时建模交互式强化学习（IRL）和决策树反馈（DTF），以在自动化过程中平衡有效性和效率的问题。通过实验，我们发现传统特征选择方法大多数是有效的，但难以识别最佳子集；而新兴的增强特征选择方法虽然可以自动导航到最佳子集，但通常效率较低。因此，我们的工作旨在开发一种新的特征空间导航方法。

    Oct, 2020

  • 通过模型提取方法解释黑匣子模型

    为了解释黑盒模型，本文提出使用决策树对其进行全局解释，并采用新的决策树提取算法避免过拟合，评估表明该方法正确率更高且可解释性更强。

    May, 2017