May, 2023

反事实解释的多样性实现：综述和讨论

PDF
TL;DR本文综述了可解释人工智能（XAI）领域中的对抗事实例，这些例子通过指示对实例进行的修改来解释训练决策模型的预测，以改变其相关预测。同时，本文探讨了可解释人工智能中多元对抗事实例的概念定义，讨论了它们的基本原理以及它们依赖的用户需求的假设，并提出了这方面的进一步研究挑战。
发现论文，激发创造
  • 通过不同的反事实解释解释机器学习分类器

    本文提出了一种基于决定点过程的生成和评估多样性反事实解释的框架，旨在优化反事实行为的可行性和多样性，并提供了可比较的度量标准来评估反事实方法。通过实验，验证了该框架能生成多样性的反事实，并且能有效地近似本地决策边界。

    May, 2019

  • 超越一刀切：将反事实解释适应用户目标

    解释性人工智能 (XAI) 是一项关键研究领域，旨在增强人工智能系统的透明度和解释性。反事实解释 (CFEs) 通过探索某些因素不同的替代情景，为机器学习算法的决策过程提供有价值的洞察。本文主张细致理解 CFEs，了解用户目标和目标应用的多样化需求，以设计更有效且量身定制的解释，以满足用户的特定需求，从而提高与人工智能系统的协作。

    Apr, 2024

  • 对策说明的随机优化

    通过提出一种基于随机学习的框架和特征选择模块来平衡反事实解释的权衡，本研究在生成可行的反事实解释方面展现了其有效性，并表明其比基线更加多样化和高效。

    Sep, 2022

  • 揭示反事实解释在就业能力的潜力

    本研究提出反事实解释在复杂机器学习算法下的应用，以数据实例展示其在雇用相关问题中提高决策支持、遵守法律要求、引导受控变更和分析新颖洞见的作用。

    May, 2023

  • 因果解释的分歧：透明度如何具有欺骗性

    本文针对可解释人工智能中的对策解释方法（Counterfactual explanations）中存在的异议问题（the disagreement problem）进行了大规模实证研究，发现不同算法生成的解释之间存在高度异议，从而呼吁更多关于算法决策透明度的讨论和实验研究。

    Apr, 2023

  • 好的反事实和它们的来源：基于案例技术生成可解释人工智能的反事实

    本文研究使用反事实解释作为可解释的人工智能 (XAI) 问题的一种解决方案，并提出一种基于案例的方法来生成反事实，以提高其解释能力和覆盖范围。

    May, 2020

  • 反事实解释器集成

    通过自编码器的包装方法，我们提出了一个包含多个可解释性对抗性分析器的集合，通过利用多样性导向的选择函数，将这些弱分析器的结果结合起来，从而实现了针对可解释性具有各种重要属性的强大方法。

    Aug, 2023

  • 对实例组进行反事实解释以用于 XAI：针对组反事实的用例、算法和用户研究

    本研究提出了一种新颖的 “群组反事实” 算法，用于以集体方式解释类似实例的群体，通过控制的用户研究发现，相较于传统方式，此算法可以在一定程度上提高人们对人工智能系统的理解，可能对反事实方法和可解释性人工智能产生重要影响。

    Mar, 2023

  • 通过多样性促进反事实鲁棒性

    通过报告多个反事实，可以提供一些有意义的鲁棒性保证，这篇论文提出了一种近似算法来选择最相关的解释，并在实验中证明了其在生成鲁棒性解释方面的改进。

    Dec, 2023

  • 计算反事实解释的方法 —— 一项调查研究

    机器学习模型日益广泛应用，因此解释其预测和行为变得越来越重要。本文综述了针对多种不同机器学习模型高效计算对抗性解释的模型特定方法，并提出了文献中尚未考虑的模型方法。

    Nov, 2019