Feb, 2024

通过双阶段干扰测试的必要性和充分性特征归因方法对因果解释

PDF
TL;DR机器学习中解释性问题的研究，通过特征归因方法（FAMs）测量每个特征的贡献，提出利用概率作为特征重要性的度量，通过 Necessity and Sufficiency（FANS）方法进行特征归因，最终与梯度优化相结合提取重要子集，在六个基准测试中 FANS 优于现有特征归因方法。
explainabilitymachine learningfeature attribution methodsprobabilityperturbation tests
发现论文，激发创造
  • 统一特征归属和反事实说明：不同的手段达成了相同的目的

    通过真实因果关系框架提供一种将特征归因和反事实解释统一的解释方法，通过在 Adult-Income，LendingClub 和 German-Credit 三个基准数据集上的实验，发现 Feature attribution 方法和 counterfactual explanation 方法并不总是一致的，也表明了他们之间的互补性。

    Nov, 2020

  • 特征归因的稳定性评估框架：您的解释是否稳健？

    提出了一种模型无关的方法 MeTFA 用于量化不确定性并增加解释算法的稳定性，该方法可将信任度提高，并可在保持可信度的同时显著减少不稳定性，并展示了在语义分割模型中定位上下文偏差和抵御针对解释的对抗攻击的潜在能力。

    Sep, 2022

  • 基于因果关系的特征重要性量化方法：PN-FI、PS-FI 和 PNS-FI

    本文介绍了如何在机器学习领域中利用 PNS（必要性和充分性的概率）计算特征重要性，并创建了新的特征重要性测量方法：PN-FI、PS_FI 和 PNS_FI。通过三个 RCT 得到的结果展示了三个特征（狗的鼻子，眼睛和嘴巴）的 PS_FI、PN_FI 和 PNS_FI 的计算方式，FI 值为紧密的上下界间的区间。

    Aug, 2023

  • 文本分类器的解释必要性和充分性：仇恨言论检测案例研究

    本文提供了一种新的特征归因方法用于解释文本分类器，用于分析恶意言论检测；提供 “必要性” 和 “充分性” 两种互补的理论得分，计算这些值的透明方法通过生成输入文本的显式扰动，使重要性评分本身具有可解释性；我们使用这种方法解释了不同恶意言语检测模型对同一测试套件中策划示例的预测，并表明对于身份术语的不同必要性和充分性值对应于不同类型的误报错误，揭示了分类器对边缘化群体的偏见的来源。

    May, 2022

  • 评估特征归因方法的双重视角方法

    特征归因方法通过识别相关特征来解释神经网络的预测结果，本研究在 “忠实度” 范式内提出了两个新视角：可靠性和完备性，分别评估特征是否真正预测，以及归因结果是否完整，并基于数学基础提供可计算的定量度量，将这些指标应用于主流归因方法，为分析和比较特征归因方法提供了新视角。

    Aug, 2023

  • 上下文感知型特征归属分析

    通过论证的方式，提出了一种上下文感知特征归因的框架 CA-FATA，该框架将每个特征作为一个支持、攻击或中立预测的论证，通过论证过程进行特征归因计算，具有明确的语义和可解释性，并且能够整合用户上下文等额外信息以实现更准确的预测。

    Oct, 2023

  • 稳健性分析解释的评估和方法

    本文提出一种基于鲁棒性分析的特征解释新的评估标准，通过针对我们提出的评估标准进行优化，获得了松散且必要的解释和可以将当前预测移动到目标类的特征集。我们通过多领域实验和用户研究验证了我们评估标准和解释的有用性。

    May, 2020

  • 分类模型中预测不确定性的归因

    本文提出一种新的框架，将路径积分、反事实解释和生成模型相结合，以获得包含少量可观察到的人工构件或噪声的归因，并通过对各种复杂度的数据集的流行基准测试进行定量评估，证明这一方法优于现有的替代方法。

    Jul, 2021

  • 机器学习分类器解释中特征的必要性和相关性

    该论文提出了解释机器学习模型预测的方法，同时讨论了相关性和必要性问题，证明了多个机器学习分类器的成员和困难性，并针对不同分类器提出了具体算法。实验结果表明所提算法的可扩展性较好。

    Oct, 2022

  • 使用 Feature Attribution 算法探究可控因素对医学案例的影响

    提出一个称为 Controllable fActor Feature Attribution (CAFA) 的方法，将特征划分为可控和不可控部分来计算相关特征的相对重要性，使用 CAFA 算法在现有数据集和 COVID-19 的非药物控制措施数据集中测试，得到的实验结果表明，使用 CAFA 算法的解释可以排除不可控特征的影响，同时保留完整的数据集进行预测。

    Mar, 2022