Feb, 2022

可解释机器学习中的异议问题：从从业者角度的看法

PDF
TL;DR通过研究解释性机器学习中的不一致性问题，本文介绍了一种定量框架来形式化不同解释方法生成的解释之间的不一致性，并通过萨实证分析和在线调查了解了数据科学家如何解决这些分歧。结果表明，当今最先进的解释方法在生成解释方面经常存在分歧，强调了开发原则性评估指标以实现有效比较解释的重要性。
explainable machine learningpost hoc explanation methodsdisagreement problemevaluation metricspredictive models
发现论文，激发创造
  • 可解释人工智能中的操作风险：不一致问题的影响

    人工智能在人类生活的高风险领域的的应用愈加普及，XAI 应运而生，但其面临的 “不一致问题” 可能会导致潜在的危险后果，因此有必要采取缓解措施。本文提供了一些调适不一致解释的方法，分析了不同的攻击方式以及行为同调调整在社会上潜在危险造成的影响。

    Jun, 2023

  • 反对说明：利用异议减少模型过度依赖

    在认知不透彻的解释方法中，引入了不同预测结果以及解释的不一致性，提高了人类对模型预测的洞察力并降低了预测结果的过多依赖。通过模型的多样性，可以提供相互矛盾的解释，通过全局和局部的方法实现。

    Jul, 2023

  • 应对分歧问题：以共识性解释为训练目标

    本文提出一种名为 PEAR 的模型训练方法，该方法在考虑精确度的同时，引入了一个衡量不同特征影响之间差异的项，以提高基于后续特征影响的解释器对未见数据的一致性，研究发现其对特征归因解释具有积极影响。

    Mar, 2023

  • 因果解释的分歧：透明度如何具有欺骗性

    本文针对可解释人工智能中的对策解释方法（Counterfactual explanations）中存在的异议问题（the disagreement problem）进行了大规模实证研究，发现不同算法生成的解释之间存在高度异议，从而呼吁更多关于算法决策透明度的讨论和实验研究。

    Apr, 2023

  • 通过共识解决可解释机器学习中的异议

    机器学习模型的解释性算法和共识函数能提高准确解释模型内部工作方式和原理，本文对包含 5 种机器学习模型的 4 个综合数据集用 6 种共识函数算法进行解释，结果表明本文提出的函数较之他种函数更加公平并提供了更一致的模型解释。

    Jul, 2023

  • 神经网络特征评估中的不一致问题探究

    近年来，神经网络展示出了从原始数据中识别复杂模式和关系的卓越能力。然而，理解这些黑盒模型的内部机制仍具挑战性，但对于高风险决策至关重要。我们的研究通过调查解释的基本和分布行为来解决这种困惑。此外，通过全面的模拟研究，我们展示了常见缩放和编码技术对解释质量的影响，评估它们在不同效应大小中的功效，并展示了基于排序的评估指标的不一致性的来源。

    Apr, 2024

  • 了解后续机器学习解释中的不平等

    通过模拟实验和真实数据集的实验，研究调查了来自数据和模型属性的解释差异产生的挑战，包括有限样本量、协变量变化、概念变化、遗漏变量偏差以及敏感属性和适当的函数形式的挑战。研究结果表明，解释差异也取决于数据和模型属性，为解释方法设计提供了建议。

    Jan, 2024

  • 解释性之路的通行需面对偏见：衡量解释的公平性

    本文通过在金融、医疗保健、大学招生和美国司法系统等四个领域的实际数据中审计了不同保护子组的解释质量，发现不同子组的近似质量显着不同，而解释深度学习模型的近似质量差异存在着公平性挑战，需要进一步解决。

    May, 2022

  • 重新审视可解释性：从实践者的角度看对话式解释

    研究如何让领域专家能够有效地与机器学习模型进行互动和问责，通过自然语言对话的形式提供交互式的解释。

    Feb, 2022

  • 揭示使用 EMR 开发的预测模型解释的差异

    通过将当前最先进的可解释性方法应用于电子病历数据的临床决策支持算法，分析这些因素之间的一致性，并从临床和技术角度讨论确定的差异的原因，进而讨论实现可信赖的临床决策支持的重要因素。

    Nov, 2023