Dec, 2023

集成解释：可解释机器学习的统一方法

PDF
TL;DR通过集成多角度解释的各种解释方法，本研究提出了一种新的适用于可解释性学习的方法，即集成解释方法。实验结果显示，集成解释方法更稳定，并且更符合人类经验和认知。作为应用，我们将集成解释方法用于特征选择，从而显著改善了相应学习模型的泛化性能。
发现论文，激发创造
  • 集成算法处理模型不确定性下的一致解释

    该研究利用集成方法，针对预测模型的不确定性问题，提高了解释的一致性，并在金融数据集上进行实验，证明了集成方法在机器学习中提高可靠性的有效性。

    Jun, 2023

  • 学习本地可解释规则集合

    本文提出了一种新的框架来学习规则集合模型，该模型既准确又可解释，该模型的可解释性通过评估模型所需表达预测所需的规则数量来评估，并提出了一种促进局部可解释性的正则化器，通过局部搜索的坐标下降算法来学习规则集合。实验结果表明，与现有方法（包括 RuleFit）相比，我们的方法学习规则集合时所需规则数量更少，同时仍然保持相当的准确性。

    Jun, 2023

  • 树形集成模型的可解释性

    该研究提出一种后处理方法通过使用 EM 算法和简化模型来提高树模型的可解释性，并进行了人工合成实验以证明该方法的可行性。

    Jun, 2016

  • 机器学习中为什么需要解释性？分布式检测和数据融合理论的解答

    本文通过使用分布式检测理论对两节点串联数据融合系统的性能进行描述，将可解释的学习模型建模为多级量化器，并证明在本文提出的抽象条件下，具有可解释分类器的人类和黑匣子分类器组成的系统性能优于只有黑匣子分类器的系统。

    Jun, 2018

  • 注重解释的软集成增强大型语言模型的上下文学习

    Large language models have the ability to quickly adapt to target tasks without gradient updates by using an Explanation-Aware Soft Ensemble framework, which improves the consistency between explanations and final predictions.

    Nov, 2023

  • 可解释的模型用于理解沉浸式模拟

    本文介绍了比较评估高维时间序列数据模型可解释性的方法，使用了常用的教育和医疗培训模拟中的日志数据，设计了两种解释性测试，评估模型输出与人们对模拟发生的期望或直觉的一致程度，发现完全贝叶斯方法在统计和人类可解释性测试的性能方面表现良好，是完全自动化模型选择的一个良好的选择。

    Sep, 2019

  • 可解释机器学习的严格科学探索

    该研究论文旨在对可解释的机器学习进行定义和分类，并提出了一种更严谨的可解释机器学习科学评估方法的问题。

    Feb, 2017

  • 可解释机器学习技术

    本文综述了提高可解释机器学习模型的技术，并讨论了未来研究的关键问题，如设计用户友好的解释和开发全面的评估指标，以进一步推动可解释机器学习的发展。

    Jul, 2018

  • 可解释的机器学习：定义、方法和应用

    该研究呈现了机器学习的可解释性与 PDR 框架，探讨了现有解释方法的分类与优劣评估，提供了实际案例并讨论了未来研究方向。

    Jan, 2019

  • 可解释的深度学习：解释、可解释性、可信度及其他

    本文综述了神经网络的解释工具和算法，提出了一种新的分类方法，介绍了解释结果的评估方法和信任度算法的应用，讨论了深度模型解释与鲁棒性和借鉴解释的联系，并介绍了一些开源库。

    Mar, 2021