May, 2024

信任与否：衡量 XAI 系统信任的一种新方法

PDF
TL;DR本文提出了一种衡量用户对 XAI 系统的信任的新方法，结合了性能指标和信任指标，并在真实医学场景中进行了肺炎检测实验来验证该方法。
deep learningexplainable aitrustperformance metricspneumonia detection
发现论文，激发创造
  • TRUST XAI: 模型无关的人工智能解释及工业物联网安全案例研究

    提出了一种通用的解释型 AI 模型 TRUST，采用因子分析、互信息和多模态高斯分布等方法，用于解释海量数字数据应用中黑盒子型 AI 的输出，案例研究表明该模型在工业物联网网络安全领域表现良好，对新的样本的解释成功率平均可达到 98%，且在性能、速度和解释方式等方面优于流行的 LIME 模型。

    May, 2022

  • 度量效用、赢得信任：XAI 研究员的实用建议

    机器学习模型解释学（即可解释性 AI）的研究与深度人工神经网络同步呈指数增长，但传统的信任和解释却太狭隘，导致研究社区被误导。该研究提出了一种实用的解决方案，建议研究人员关注机器学习解释的实用性而非信任，提出五种广泛的用例，并为每种情况描述可依靠客观经验测量和可证伪假设的伪实验。该实验严谨的处理方法将对 XAI 领域的科学知识的进一步贡献是必要的。

    Sep, 2020

  • 评估流行的可解释人工智能在临床预测模型中的应用：能否信赖？

    本研究旨在评估两种流行的可解释人工智能方法在医疗保健背景下解释预测模型的精确度，重点考虑是否产生与应用任务相一致的域适当表示，如何影响临床工作流程以及是否一致性，结果表明目前的技术还有改进的空间。

    Jun, 2023

  • 一种生成带有 XAI 地面真实性数据集的方法，以评估图像模型的新方法

    本研究提出了一种生成具有真实标准数据集的新方法来衡量可解释人工智能的解释质量，并通过实验证明了该方法的正确性。

    Feb, 2023

  • 可解释化人工智能并未提供最终用户所要求的解释

    阐释可解释的人工智能（XAI）技术应用于复杂模型的机器学习系统中，以增强其透明度与验证，从而取得用户的信任。然而，XAI 在部署上存在局限性，因此透明度和严格验证更适合在获取人工智能系统信任时使用。

    Jan, 2023

  • 使用形式化方法证明 XAI 神话 -- 初步结果

    这篇研究论文探讨了可解释人工智能的重要性以及存在的困境和误解，通过形式化方法来反驳这些误解并提出实际有效的替代方法。

    May, 2023

  • 可解释人工智能分析和设计的多组件框架

    这篇论文讨论了符合科学历史的可解释人工智能 (XAI) 的框架问题，其原因追溯至现代机器学习（尤其是深度和强化学习）和对创造值得信赖的 AI 系统的关注，它的五个级别框架是 XAI 的关键组成部分。

    May, 2020

  • 可解释人工智能 (XAI) 中的机遇与挑战：一份调查

    本文介绍了深度学习中可解释人工智能技术（XAI），提出了技术分类法并介绍了方法学、范畴和应用层次等主要原则，旨在建立可信、可解释和自说明的深度学习模型。此外，通过八种不同的可解释人工智能算法对图像数据进行了评估，讨论了这种方法的局限性，并提出了未来改进的潜在方向。

    Jun, 2020

  • XAI 中的信任与依赖 -- 区分态度和行为度量

    对于 XAI 的研究，透明化被认为是增强信任的一个主要目标，然而关于透明度对于信任度的作用的研究结果并不一致。由于有时行为度量被用来捕捉主观信任度，本位置论文提倡在 XAI 中对信任度和依赖度进行明确定义区分，以更好地理解透明度对信任度和依赖度的影响。

    Mar, 2022

  • 您能相信您的解释吗？特征归因方法的健壮性测试

    评估对非敌对扰动的稳健性并分析神经网络和表格数据集上应用的可解释 AI 方法的稳健性，展示如何利用流形假设和集成方法对稳健性进行深入分析。

    Jun, 2024