May, 2024

球重叠数量模型不可知反事实 (ONB-MACF)：基于数据形态学的诚信人工智能反事实生成方法

PDF
TL;DR通过分析数据形态策略在生成反事实解释中的价值，本研究引入了基于数据形态的可解释性策略 ——ONB-MACF 方法，并在多样化表格数据集上的多个质量指标中证明其优于现有最先进的反事实生成方法，支持了数据形态策略在构建可信人工智能方面的潜力。
explainable artificial intelligencexaicounterfactual explanationsdata morphology strategiestrustworthy ai
发现论文，激发创造
  • 基准测试可解释性人工智能的反事实算法：从白盒到黑盒

    该研究通过在三种不同类型的机器学习模型上进行基准评估来调查机器学习模型对反事实解释生成的影响，发现不同的机器学习模型对反事实解释生成没有影响，强烈建议进行定性分析来确保反事实解释的稳健分析和潜在偏差的识别。

    Mar, 2022

  • 利用特征空间中的马氏距离和分布偏好提升反事实图像生成

    本文介绍了一种在黑盒模型特征空间中计算特征重要性的新方法，并利用信息融合技术将特征反事实解释转化为图像反事实解释。实验结果表明，我们的方法生成的反事实解释在像素和特征空间上与原始图像非常相似，并且表现优于已有的基准模型，获得了令人印象深刻的实验结果。

    May, 2024

  • MACE：一个高效的模型无关框架用于因果解释

    提出了一种新的框架 Model-Agnostic Counterfactual Explanation (MACE)，通过采用一种新设计的流水线来有效处理大量特征值上的非可分机器学习模型，其中包括使用基于 RL 的方法来找到良好的对策例子和梯度下降方法来改进相似性。公共数据集上的实验证实了该方法的有效性，具有更好的准确性、稀疏性和相似性。

    May, 2022

  • 多目标反事实解释

    该研究提出了一种多目标反事实解释方法（MOC），将反事实搜索转化为多目标优化问题，通过对特征空间的多样性维护，返回一组不同权衡的反事实，并在实际案例中展示了 MOC 的有用性和与现有方法的对比。

    Apr, 2020

  • 使用概率对比假设解释黑盒算法

    该研究提出一种基于因果关系的方法来解释黑盒决策系统，并使用概率对比反事实证明其有效性，能够为受算法决策影响的个体提供可行的补救措施。该方法不需要了解算法内部结构，能够计算全局、局部和情境层面的有效解释和补救措施。经实验证明，该方法较 XAI 的其他流行算法效果更好。

    Mar, 2021

  • 水印反事实解释

    提出了一个模型不可知水印框架，用于探测未经授权的模型提取攻击，并保证所嵌入的水印不损害生成的对抗结果解释的质量。

    May, 2024

  • 基于形状子序列的多元时间序列因果解释

    本研究提出了一种基于时序多元数据和可解释人工智能的反事实解释算法，该算法能够产生高质量、可视化、近距离和可信的反事实解释，帮助黑匣子模型的解释和决策过程可靠性的提升。

    Aug, 2022

  • 超越一刀切：将反事实解释适应用户目标

    解释性人工智能 (XAI) 是一项关键研究领域，旨在增强人工智能系统的透明度和解释性。反事实解释 (CFEs) 通过探索某些因素不同的替代情景，为机器学习算法的决策过程提供有价值的洞察。本文主张细致理解 CFEs，了解用户目标和目标应用的多样化需求，以设计更有效且量身定制的解释，以满足用户的特定需求，从而提高与人工智能系统的协作。

    Apr, 2024

  • 可解释人工智能与反事实路径

    提出了一种基于条件置换生成反事实路径的新型可解释性人工智能（XAI）方法，可以在知识图谱中识别与模型预测最相关的特征或特征组合，提供比传统特征加权方法更直观和可解释的模型行为解释，并有助于发现和减轻模型中的偏差。

    Jul, 2023

  • 基于解释的反事实重训练（XCR）：黑盒模型校准方法

    本文提出了一种新的基于解释的反事实训练方法，即 eXplanation-based Counterfactual Retraining (XCR)，通过提取特征重要性来优化黑盒模型，解决了解释性人工智能的 Out-of-Distribution 问题和社会不协调问题，并在流行的图像数据集和数据损坏基准数据集中进行了实证研究，证明其有效性。

    Jun, 2022