Oct, 2018

理解黑盒决策的原因：足够输入子集的作用

PDF
TL;DR本文提出了一种局部解释框架，使用简单的实例后向选择方法，寻找足够的输入子集以识别决策的最小特征子集，并展示其在各种神经网络模型上的实用性。
local explanationblack-box prediction modelinput subsetsdecision-makingneural network models
发现论文，激发创造
  • 通过有意义的扰动提供黑匣子的可解释性解释

    该研究提出了一种适用于任何黑盒机器学习算法的通用解释框架，并将其特化以找到对分类器决策最负责的图像部分。该方法是模型无关且可测试的，因为它基于明确且可解释的图像扰动。

    Apr, 2017

  • 概率充分解释

    本研究提出了概率充分解释的理念，即通过 “足够简单” 的特征子集来 “足以” 解释分类行为，并结合可扩展的概率推理算法设计出可行的实现方案。实验证明，本算法找到的充分解释更有效，且优于基准模型 Anchors 和逻辑解释。

    May, 2021

  • 多类模型解释的加法逐实例方法

    本论文提出了一种使用解释模型同时针对多个目标类别进行本地解释的框架，该模型具有更高的解释性和更紧凑的解释，通过广泛的实验验证了该模型具有选择稳定和重要特征的能力。

    Jul, 2022

  • 可证明高效、简洁、精度高的解释

    设计了一种有效算法来解释黑盒模型的预测结果，该算法通过隐式学习决策树，满足精确度和简洁性需求，并结合全局和局部解释方法

    Nov, 2021

  • 黑盒决策系统的本地基于规则的解释

    本文提出了一种名为 LORE 的黑匣子探明方法，能够从逻辑和反事实规则两个层面解释黑匣子机器学习模型的决策原因，从而提高其在社会敏感和安全关键环境中的可用性和透明度。

    May, 2018

  • 增强神经子集选择：将背景信息整合到集合表示中

    学习神经子集选择任务，如 AI 辅助药物发现中的化合物选择，在不同应用中变得越来越重要。本文通过采用概率观点来解决现有方法在利用神经网络模拟集合函数时忽略超集中所含有的有价值信息的问题，并通过理论研究表明，在目标值在输入集合和子集两者条件下时，将超集的不变足够统计量整合到目标子集中对于有效学习至关重要。基于这些发现，我们提出了一个简单而有效的信息聚合模块，从排列不变的角度合并子集和超集的表示。对多个任务和数据集进行的全面实证评估验证了我们方法相比传统方法的增强有效性，突出了我们提议的策略在实际环境中的实用性和强大性。

    Feb, 2024

  • 选择性解释：利用人类输入对可解释人工智能进行对齐

    本文提出了一种基于人类交流行为启发的可选择性解释框架，通过选择性地展示大量模型原因的子集，根据受众的偏好来尝试解决解释型 AI 算法在如何生成和消耗解释方面存在重大差距的问题，并通过决策支持任务和实验研究证明了其减少依赖 AI 和提高决策结果和主观感知的潜力。

    Jan, 2023

  • 通过集合成员方法发现特征关联性并解释神经分类器的决策

    介绍了一种新的方法来发现由训练后的神经分类器认为具有重要意义的特征，以及这些特征如何影响分类器的输出，从而获得其决策的解释。该方法基于可靠的数学方法，提供了分类器决策前提的可靠估计，重申特征相关性的重要性。

    Apr, 2022

  • 即使解释：正式基础、优先级和复杂性

    对于可解释人工智能的半事实即使思考的局部事后解释性查询进行了研究，比较了不同类别的模型的计算复杂度，发现线性模型和基于树的模型比神经网络更具可解释性。然后引入了一种基于偏好的框架，使用户能够根据其偏好进行个性化解释，无论是在半事实还是对事实进行优化，增强了可解释性和用户中心性。最后，探索了所提出的基于偏好的框架中几个可解释性问题的复杂性，并提供了多项式情况下的算法。

    Jan, 2024

  • 可解释的数据驱动建模通过专家混合：朝着有效融合灰箱和黑箱模型

    我们提出了一种基于 “专家混合” 的综合框架，以解决传统模型和机器学习方法在处理复杂系统时的准确性和解释性之间的平衡问题。通过数据驱动的融合多样化的本地模型，充分利用基于原则的先验知识，我们的解决方案支持专家的独立训练，并结合了机器学习和系统辨识技术，同时支持合作和竞争学习范式。为了增强解释性，我们对专家组合的突变进行了惩罚。实验结果验证了我们的方法的有效性，能够产生与目标现象紧密相似且可解释的模型组合。

    Jan, 2024