AAAIJan, 2019

加权特征归因的聚合

PDF
TL;DR本文讨论了一种将前导事件影响和价值归因两种机器学习模型解释方法融合起来的算法 AVA：Aggregate Valuation of Antecedents，通过 AV 加权聚合特征归因，不仅能检索局部解释，还能捕捉模型学习到的全局模式。验证实验表明 AVA 方法的优越性。
machine learningexplanationantecedent event influencevalue attributionava algorithm
发现论文，激发创造
  • 通过优化特征归因的聚合来提供可证明更好的解释

    该论文旨在通过将不同方法或其变种的多个解释结合起来，系统地提高特征归因的质量，从而改进理解和验证复杂的机器学习模型的预测，该组合策略在多个模型架构和流行的特征归因技术中始终优于个别方法和现有基准。

    Jun, 2024

  • 选择性解释

    我们提出了一种选择性解释的特征归因方法，它检测出深度学习模型产生低质量解释的情况，并使用初始猜测解释技术改善这些解释，从而使实践者能够在提供初始猜测的解释之间进行选择，从而弥补了深度学习模型及其高质量对应物之间的差距。

    May, 2024

  • 上下文感知型特征归属分析

    通过论证的方式，提出了一种上下文感知特征归因的框架 CA-FATA，该框架将每个特征作为一个支持、攻击或中立预测的论证，通过论证过程进行特征归因计算，具有明确的语义和可解释性，并且能够整合用户上下文等额外信息以实现更准确的预测。

    Oct, 2023

  • 加权莫比乌斯分数：一种统一特征归因框架

    本文提出了一个可参数化的归因框架 — 带权重的 M"obius 得分，用于解释黑匣子模型的预测（单一特征和特征间互动），并且发现了一些新的归因方法。通过研究归因方法的向量空间，我们的框架利用标准线性代数工具，并提供了在合作博弈理论和因果中介分析等各个领域的解释。我们通过在情感分析和思维链提示中应用归因方法来证明框架的多功能性和有效性。

    May, 2023

  • 模型无关的交互式特征归因提高性能和样本效率

    本文提供了两种流行的解释方法（Occlusion 和 Shapley 值）的模型无关实现，以无限制的交互方式实现不同的属性。利用已纠正的特征归属来生成额外的本地数据，通过在模拟和真实数据实验中展示我们提出的方法如何通过纠正的解释显著提高模型的性能。添加交互式解释以增加活动学习效率，显著优于现有的解释性交互策略。此外，本文探讨了领域专家如何提供足够正确的特征归属来改进模型。

    Jun, 2023

  • 神经网络特征评估中的不一致问题探究

    近年来，神经网络展示出了从原始数据中识别复杂模式和关系的卓越能力。然而，理解这些黑盒模型的内部机制仍具挑战性，但对于高风险决策至关重要。我们的研究通过调查解释的基本和分布行为来解决这种困惑。此外，通过全面的模拟研究，我们展示了常见缩放和编码技术对解释质量的影响，评估它们在不同效应大小中的功效，并展示了基于排序的评估指标的不一致性的来源。

    Apr, 2024

  • 自然语言模型理解中的本地聚合特征归因

    本文提出了用于自然语言处理模型的新型基于梯度的特征暗示方法（Locally Aggregated Feature Attribution，LAFA），通过汇集从语言模型嵌入推导出的类似参考文本来平滑梯度，以实现对模型的解释性。该方法在公共数据集上进行了实验，包括实体识别和情感分析以及在构建的 Amazon 目录数据集上对重要特征的检测。通过实验，证明了该方法的优越性能。

    Apr, 2022

  • 统一特征归属和反事实说明：不同的手段达成了相同的目的

    通过真实因果关系框架提供一种将特征归因和反事实解释统一的解释方法，通过在 Adult-Income，LendingClub 和 German-Credit 三个基准数据集上的实验，发现 Feature attribution 方法和 counterfactual explanation 方法并不总是一致的，也表明了他们之间的互补性。

    Nov, 2020

  • 多类模型解释的加法逐实例方法

    本论文提出了一种使用解释模型同时针对多个目标类别进行本地解释的框架，该模型具有更高的解释性和更紧凑的解释，通过广泛的实验验证了该模型具有选择稳定和重要特征的能力。

    Jul, 2022

  • 冲突感知特征解释

    我们提出了一种新颖的特征归因方法 CAFE（冲突感知特征解释），它解决了现有方法中的三个限制：它们忽视冲突特征的影响，不考虑偏差项的影响，以及对基础激活函数的局部变化过于敏感。与其他方法不同，CAFE 在溯源神经元输入的影响上提供了防止效应被高估的保护措施，并单独跟踪输入特征和偏差的正负影响，从而增强了鲁棒性，并增加了表面冲突特征的能力。我们的实验证明，CAFE 能够更好地识别合成表格数据中的冲突特征，并在几个真实世界的表格数据集上具有最好的整体保真度，同时具有很高的计算效率。

    Oct, 2023