May, 2022

一种解释统一化方法 -- 集成一致解释

PDF
TL;DR本文研究透明度和解释与人工智能决策相关的问题。通过引入反事实解释的概念，提出一种新方法，即针对决策集合提供一致且高效的解释。
发现论文，激发创造
  • 集成算法处理模型不确定性下的一致解释

    该研究利用集成方法，针对预测模型的不确定性问题，提高了解释的一致性，并在金融数据集上进行实验，证明了集成方法在机器学习中提高可靠性的有效性。

    Jun, 2023

  • 寻求可验证性：解释很少能够在 AI 辅助的决策判断中提供补充性的表现

    本文聚焦 AI 辅助决策，在 AI 解释人类决策过程中频繁失败的背景下，提出了一个简单的理论，即解释只有在允许决策者验证其正确性时才有用，我们讨论了更有效的 AI 决策解释方法和人工智能 - 人类决策的协作。

    May, 2023

  • 评价反事实解释的鲁棒性

    本研究旨在正式和实证研究了解反事实解释的鲁棒性，以及在不同模型和不同类型扰动下的鲁棒性，并提出合理的反事实解释来改进鲁棒性和个体平等。

    Mar, 2021

  • AI 解释的解释

    该论文关注机器学习中可解释性问题，侧重于简化模型的构建及不同形式的解释与说明，并探讨了机器学习在处理该问题时的广义视角。

    Nov, 2018

  • 一个解释并不能适用于所有情况：交互式解释对于机器学习透明度的承诺

    通过交互式机器学习，将对比解释应用于黑盒机器学习系统，个性化调整其条件语句并通过提问 “What if？” 的方式提取更多解释，从而提高系统的透明度。

    Jan, 2020

  • TED: 教授人工智能解释其决策

    本文介绍了一种名为 TED（Teaching Explanations for Decisions）的实用框架，它提供了能够匹配消费者心智模型的有意义的解释，通过两个例子的演示，表明这种方法的广泛性和有效性，同时无损准确性。

    Nov, 2018

  • 反事实解释器集成

    通过自编码器的包装方法，我们提出了一个包含多个可解释性对抗性分析器的集合，通过利用多样性导向的选择函数，将这些弱分析器的结果结合起来，从而实现了针对可解释性具有各种重要属性的强大方法。

    Aug, 2023

  • 关于解释、公平感知和决策之间的关系

    研究人员探讨了 AI 系统推荐错误或不公平的情况下，人工干预的必要性，并提供了关于解释、公平感知、依赖和分布公平性之间关系的理论框架，但文献并没有提供确凿证据证明解释在实践中实现了这种补充关系。

    Apr, 2022

  • 基于 CNN 的解释集成用于数据集、表示和解释评估

    通过合并深度分类模型生成的解释，研究人员探索了可解释人工智能的潜力，以揭示模型行为的更一致和可靠的模式，进而评估模型所学到的表示。使用选定的 Quantus 库评估指标，证明该方法在本地化和可信度方面的性能优于单个解释。

    Apr, 2024

  • 自动决策中人工解释的何为、何故、何如

    介绍了解释在人工智能和机器学习决策系统中所扮演的角色，提供了解释的替代概念，并评估了现有解释方法和所需的特点。

    Aug, 2018