Oct, 2023

冲突感知特征解释

PDF
TL;DR我们提出了一种新颖的特征归因方法 CAFE（冲突感知特征解释），它解决了现有方法中的三个限制：它们忽视冲突特征的影响，不考虑偏差项的影响，以及对基础激活函数的局部变化过于敏感。与其他方法不同，CAFE 在溯源神经元输入的影响上提供了防止效应被高估的保护措施，并单独跟踪输入特征和偏差的正负影响，从而增强了鲁棒性，并增加了表面冲突特征的能力。我们的实验证明，CAFE 能够更好地识别合成表格数据中的冲突特征，并在几个真实世界的表格数据集上具有最好的整体保真度，同时具有很高的计算效率。
发现论文，激发创造
  • 神经网络特征评估中的不一致问题探究

    近年来，神经网络展示出了从原始数据中识别复杂模式和关系的卓越能力。然而，理解这些黑盒模型的内部机制仍具挑战性，但对于高风险决策至关重要。我们的研究通过调查解释的基本和分布行为来解决这种困惑。此外，通过全面的模拟研究，我们展示了常见缩放和编码技术对解释质量的影响，评估它们在不同效应大小中的功效，并展示了基于排序的评估指标的不一致性的来源。

    Apr, 2024

  • 统一特征归属和反事实说明：不同的手段达成了相同的目的

    通过真实因果关系框架提供一种将特征归因和反事实解释统一的解释方法，通过在 Adult-Income，LendingClub 和 German-Credit 三个基准数据集上的实验，发现 Feature attribution 方法和 counterfactual explanation 方法并不总是一致的，也表明了他们之间的互补性。

    Nov, 2020

  • 上下文感知型特征归属分析

    通过论证的方式，提出了一种上下文感知特征归因的框架 CA-FATA，该框架将每个特征作为一个支持、攻击或中立预测的论证，通过论证过程进行特征归因计算，具有明确的语义和可解释性，并且能够整合用户上下文等额外信息以实现更准确的预测。

    Oct, 2023

  • CAFE：通过特征对齐学习压缩数据集

    本文提出了一种名为 CAFE 的新方法来压缩数据集并 align 真实数据和合成数据的特征，以防止梯度偏差。我们的方案通过动态双级优化和适应性参数更新以防止过度拟合，并通过广泛实验验证了其有效性。

    Mar, 2022

  • GPT 用于半自动化数据科学：介绍 CAAFE 进行上下文感知的自动特征工程

    通过利用大型语言模型，提出了 Context-Aware Automated Feature Engineering（CAAFE）方法，该方法可以在表格数据集中生成语义相关的功能。通过将此方法应用于 14 个数据集，可以提高 11 个数据集的性能并提供有价值的见解。

    May, 2023

  • 选择性解释

    我们提出了一种选择性解释的特征归因方法，它检测出深度学习模型产生低质量解释的情况，并使用初始猜测解释技术改善这些解释，从而使实践者能够在提供初始猜测的解释之间进行选择，从而弥补了深度学习模型及其高质量对应物之间的差距。

    May, 2024

  • 基于梯度反向传播的特征归因，实现边缘智能可解释性

    本研究为了实现边缘设备上的实时可解释人工智能（XAI），利用可配置的 FPGA 设计和优化算法提高多种特征归因算法的灵活性和性能，并演示了通过分配硬件资源的有效重复使用的路径，以最小化部分准确性损失。

    Oct, 2022

  • 基于用户反馈的反事实解释介绍 (UFCE)

    本研究引入了一种新的方法论，名为用户反馈式反事实解释（UFCE），以解决当前反事实解释算法的局限性，并旨在提高对提供的解释的置信度。实验证明，UFCE 在接近度、稀疏度和可行性方面胜过两种著名的 CE 方法，并指出用户约束对生成可行的反事实解释具有影响。

    Feb, 2024

  • 通过因果归因解释视觉模型

    本文提出了基于干预因果模型的解释方法来计算特征变化对输出的影响，从而得到新的样本。同时也发现在生成图像方面当前模型的局限性。

    Sep, 2019

  • 加权特征归因的聚合

    本文讨论了一种将前导事件影响和价值归因两种机器学习模型解释方法融合起来的算法 AVA：Aggregate Valuation of Antecedents，通过 AV 加权聚合特征归因，不仅能检索局部解释，还能捕捉模型学习到的全局模式。验证实验表明 AVA 方法的优越性。

    Jan, 2019