Apr, 2019

通过功能分解量化模型复杂度，以获得更好的事后解释性

PDF
TL;DR提出了基于功能分解的模型不可知复杂度量度来量化任意机器学习模型的复杂度，并展示了在同时最小化损失和复杂度的多目标优化中应用这些量度的方法。
发现论文，激发创造
  • 计算复杂度视角下的模型可解释性

    本文在探讨不同模型的可解释性时，提出了一种基于计算复杂度理论的原则性可解释性概念，并证明了线性模型和基于树的模型相对于神经网络更可解释，同时通过参数化复杂度分析，提出了浅层神经网络比深层神经网络更容易解释的理论证据。

    Oct, 2020

  • 解释机器学习性能差异的分层分解

    解释机器学习算法在不同领域表现差异的新的非参数分层框架，提供了聚合和详细分解的方法，不需要因果知识，同时导出了消除偏差、计算高效的估算器和统计推断程序，以获得渐近有效的置信区间。

    Feb, 2024

  • 量化与建模特征交互：一种信息分解框架

    该研究提出了一种信息熵方法，可以量化多模态分布中输入特征之间的冗余、独特和协同作用，以帮助模型选择和应用。

    Feb, 2023

  • 使用功能 ANOVA 净化交互作用：一种恢复可识别加性模型的高效算法

    为解决特征交互作用估计中存在的可辨认性问题，文章提出了纯交互作用的定义，通过提出一种快速、准确的算法，将任何分段常数函数转换为纯粹的、标准化的表示法，结果表明这种算法可以应用到基于多个数据集进行交互式广义可加模型训练的各个领域。

    Nov, 2019

  • 基于特征交互分解全局特征影响效应

    该研究提出了一种新的框架，称为广义加性分解全局效应（GADGET），用于找到特征空间中可解释的区域，从而尽量减少局部特征效应的交互异质性，并提出了一种新的置换检验方法来检测显著的特征交互。该方法在不同的实验设置中进行了实证评估，并使用两个真实世界的示例展示了其实用性。

    Jun, 2023

  • 通过复杂组合约束的模式分解：材料发现应用

    本文介绍了一种基于因素的模式分解框架 CombiFD 以及一种新的模式分解算法 AMIQO，通过 Quadratic Programs 序列解决大量复杂的背景知识，并在材料发现等领域中得出了显著的结果。

    Nov, 2014

  • 本地与全局可解释性：一个计算复杂性角度

    使用计算复杂性理论评估机器学习模型的局部和全局解释性，证明了局部和全局解释之间的对偶性以及某些全局解释形式的独特性，并比较了线性模型、决策树和神经网络在计算解释复杂度方面的差异。

    Jun, 2024

  • 分类器数据质量：一种基于几何复杂度的自动基线和见解生成方法

    该研究开发了复杂度量度，可用于量化观测数据的分类复杂度并确定基准性能阈值，其有效突出可能被错误分类的数据区域和观测数据。

    Dec, 2021

  • 通过 Shapley 值的分解来解释模型和特征之间的依赖关系

    本文提出了一种新的算法方法，将 Shapley 值中两种不同的解释组合在一起，以增强模型的说明能力，并在两个真实世界的数据集上应用。

    Jun, 2023

  • 神经网络自然语言处理的事后可解释性：一项综述

    本文主要讨论了近期后续方法如何向人类传达模型解释的分类，深入讨论了每种方法及其验证过程。

    Aug, 2021